音視頻采集學(xué)習(xí)筆記(一)

前言

上一篇文章音視頻開發(fā)的概念(音視頻開發(fā)概念),這篇介紹音視頻的采集的四種方式 (采集實(shí)現(xiàn)Demo)

系統(tǒng)封裝:

UIImagePickerController

AVFoundation框架實(shí)現(xiàn)的兩種方式:

AVCaptureSession+AVCaptureMovieFileOutput
AVCaptureSession+AVAssetWriter

第三方框架實(shí)現(xiàn):

GpuImage

UIImagePickerController

UIImagePickerController 類是系統(tǒng)獲取選擇圖片和視頻的接口,這種方式只能設(shè)置一些簡(jiǎn)單參數(shù)仑撞,自定義程度不高,只能自定義界面上的操作按鈕私爷,還有視頻的畫質(zhì)等

  • 懶加載初始化UIImagePickerController
fileprivate lazy var imagePickerViewController : UIImagePickerController = {
        let imagePickerViewController = UIImagePickerController()
        imagePickerViewController.delegate = self
        imagePickerViewController.allowsEditing = true
        return imagePickerViewController
    }()
  • 打開相冊(cè)
self.imagePickerViewController.sourceType = .photoLibrary
self.present(self.imagePickerViewController, animated: true, completion: nil)
  • 拍照和攝像
self.imagePickerViewController.sourceType = .camera
self.imagePickerViewController.videoMaximumDuration = 10.0
self.imagePickerViewController.mediaTypes = [kUTTypeImage as String, kUTTypeMovie as String]        
self.present(self.imagePickerViewController, animated: true, completion: nil)            

注意:先導(dǎo)入MobileCoreServices框架扫尖,mediaTypes 為數(shù)組類型伐坏,拍照對(duì)應(yīng)kUTTypeImage,錄制為kUTTypeMovie击胜,設(shè)置其他不生效

  • 實(shí)現(xiàn)UIImagePickerControllerDelegate的方法,獲取到選擇的資源亏狰,做一系列的操作
extension RecordingSystemViewController : UIImagePickerControllerDelegate, UINavigationControllerDelegate {
    func imagePickerController(_ picker: UIImagePickerController, didFinishPickingMediaWithInfo info: [UIImagePickerController.InfoKey : Any]) {
        if let image = info[UIImagePickerController.InfoKey.originalImage] as? UIImage {
            self.backImageView.image = image;
        }

        if let videoUrl = info[UIImagePickerController.InfoKey.mediaURL] {
            let videoVC = VideoDetailViewController()
            videoVC.url = (videoUrl as! URL)
            self.navigationController?.pushViewController(videoVC, animated: true)
        }

        self.dismiss(animated: true, completion: nil);
    }
}

UIImagePickerController屬性解釋可以看這篇博客:UIImagePickerController類

AVCaptureSession+AVCaptureMovieFileOutput

這種實(shí)現(xiàn)能夠自定義處理錄制頁面,實(shí)現(xiàn)相比AVCaptureSession+AVAssetWriter更加簡(jiǎn)單偶摔,但是這種方案無法實(shí)現(xiàn)濾鏡渲染暇唾,是沒有進(jìn)行編碼的源視頻,所以只能錄制完成后進(jìn)行壓縮處理

流程
1. 創(chuàng)建捕捉會(huì)話
2. 設(shè)置視頻的輸入
3. 設(shè)置音頻的輸入
4. 輸出源設(shè)置,這里視頻辰斋,音頻數(shù)據(jù)會(huì)合并到一起輸出策州,在代理方法中也可以單獨(dú)拿到視頻或者音頻數(shù)據(jù),給AVCaptureMovieFileOutput指定路徑宫仗,開始錄制之后就會(huì)向這個(gè)路徑寫入數(shù)據(jù)
5. 添加視頻預(yù)覽層
6. 開始采集數(shù)據(jù)够挂,這個(gè)時(shí)候還沒有寫入數(shù)據(jù),用戶點(diǎn)擊錄制后就可以開始寫入數(shù)據(jù)
  • 創(chuàng)建捕捉會(huì)話
fileprivate lazy var session : AVCaptureSession = {
        let session = AVCaptureSession()
        session.sessionPreset = .high
        return session
}()
// 視頻的輸入
    @available(iOS 10.2, *)
    func setUpVideo(position: AVCaptureDevice.Position) {
        let videoCaptureDevice = AVCaptureDevice.default(.builtInWideAngleCamera, for: .video, position: position)

        //在修改AVCaptureDevice相關(guān)屬性之前孽糖,必須調(diào)用下述方法上鎖(設(shè)置isVideoHDREnabled崩潰,還沒弄明白)
//        do {
//            try  videoCaptureDevice?.lockForConfiguration()
//            videoCaptureDevice?.activeFormat = (videoCaptureDevice?.formats[0])!
//            videoCaptureDevice?.automaticallyAdjustsVideoHDREnabled = false
//            videoCaptureDevice?.isVideoHDREnabled = true
//        } catch {
//
//        }

        // 視頻輸入源
        do {
            videoInput = try AVCaptureDeviceInput.init(device: videoCaptureDevice!)
        } catch  {

        }

        if self.session.canAddInput(videoInput) {
            self.session.addInput(videoInput)
        }
     }
  • 設(shè)置音頻的輸入
 // 音頻的輸入
    func setUpAudio() {
        let audioCaptureDevice = AVCaptureDevice.default(for: .audio)

        do {
            audioInput = try AVCaptureDeviceInput(device: audioCaptureDevice!)
        } catch {

        }

        if session.canAddInput(audioInput) {
            self.session.addInput(audioInput)
        }
     }
    func setUpFileOut() {
        fileOutput = AVCaptureMovieFileOutput()
//        let captureConnection = fileOutput.connection(with: .video)
//
//        if ((captureConnection?.isVideoStabilizationSupported)!) {
//            // 設(shè)置防抖(崩潰也沒弄明白)
//            captureConnection?.preferredVideoStabilizationMode = .auto
//        }

        if session.canAddOutput(fileOutput) {
            self.session.addOutput(fileOutput)
        }
    }
 func setUpLayerView() {
        view.addSubview(playerView)
        previewLayer = AVCaptureVideoPreviewLayer(session: self.session)
        previewLayer.frame = CGRect(x: 0, y: 0, width: SCREEN_WIDTH, height: SCREEN_WIDTH)
        self.playerView.layer.addSublayer(previewLayer)
 }

這時(shí)候我們就完成了視頻的錄制頁面办悟,所以我們可以添加錄制采集按鈕、相機(jī)轉(zhuǎn)換按鈕等自定義視圖滩褥,

fileprivate func setUpUI() {
        videoCustomView.delegate = self
        // UIView子視圖與Layer層級(jí)關(guān)系(相互覆蓋),通過zPosition設(shè)置優(yōu)選級(jí)
        videoCustomView.layer.zPosition = 3
        playerView.addSubview(videoCustomView)

        videoCustomView.snp.makeConstraints { (make) in
            make.edges.equalTo(UIEdgeInsets(top: 0, left: 0, bottom: 0, right: 0))
        }
}

實(shí)現(xiàn)自定義視圖代理的方法

extension MovieFileOutputRecordingViewController : VideoCustomViewControlDelegate {
    // 點(diǎn)擊錄制按鈕
    func clickPlayButton(isPlay: Bool) {
        if isPlay {
            writeDataTofile()
        } else {
            self.session.stopRunning()
            self.fileOutput.stopRecording()
        }
    }

    // 錄制完成
    func recordingEnd() {
        self.session.stopRunning()
        self.fileOutput.stopRecording()
    }

    // 相機(jī)轉(zhuǎn)換
    func switchCamera() {
        session.removeInput(videoInput)

        if videoInput.device.position == .back {
            setUpVideo(position: .front)
        } else {
            setUpVideo(position: .back)
        }

        session.startRunning()
    }
}

問題: 相機(jī)轉(zhuǎn)換為前置病蛉,相機(jī)類型為builtInDualCamera會(huì)崩潰,待查證原因

  • 寫入數(shù)據(jù)
func writeDataTofile() {
        if FileManager.default.fileExists(atPath: self.videoStoragePath()) {
            do {
                try FileManager.default.removeItem(atPath: self.videoStoragePath())
            } catch {

            }
        }

        let path = self.videoStoragePath()
        videoUrl = URL.init(fileURLWithPath: path)

        self.fileOutput.startRecording(to: videoUrl, recordingDelegate: self)

    }

 func videoStoragePath() -> String {
        let ducment = NSSearchPathForDirectoriesInDomains(FileManager.SearchPathDirectory.documentDirectory, .userDomainMask, true).first
        return ducment! + "/video.mp4"
 }

注意: 寫入數(shù)據(jù)時(shí)需要先移除之前路徑的數(shù)據(jù)瑰煎,無法自動(dòng)替換铺然,否則一直都是為首次錄制的數(shù)據(jù),錄制10s的視頻數(shù)據(jù)信息如下圖所示

未壓縮.png

如果錄制一分鐘的視頻丢间,內(nèi)存大約為50MB探熔,上傳到服務(wù)器壓力過大驹针,因此需要在錄制完成后進(jìn)行壓縮

func fileOutput(_ output:AVCaptureFileOutput,didFinishRecordingTo outputFileURL: URL, from connections: [AVCaptureConnection], error: Error?) {
        let exportSession = AVAssetExportSession.init(asset: AVAsset.init(url: videoUrl), presetName: AVAssetExportPresetMediumQuality)
        let ducment = NSSearchPathForDirectoriesInDomains(FileManager.SearchPathDirectory.documentDirectory, .userDomainMask, true).first
        let newVideoUrl = URL.init(fileURLWithPath: ducment! + "/newVideo.mp4")

        do {
            try FileManager.default.removeItem(atPath: ducment! + "/newVideo.mp4")
        } catch {

        }

        // 輸出URL
        exportSession?.outputURL = newVideoUrl
        // 轉(zhuǎn)換后的格式
        exportSession?.outputFileType = AVFileType.mp4
        // 優(yōu)化網(wǎng)絡(luò)
        exportSession?.shouldOptimizeForNetworkUse = true
        // 異步導(dǎo)出
        exportSession?.exportAsynchronously(completionHandler: {
            Alamofire.upload(newVideoUrl, to: "http://m.toysplanet.cn/gateway/file/upload", method: .post, headers: nil)
            let videoVC = VideoDetailViewController()
            videoVC.url = newVideoUrl
            self.navigationController?.pushViewController(videoVC, animated: true)
        })
    }

這時(shí)我們?cè)倏纯磯嚎s后的視頻信息

壓縮后.png

視頻大小已經(jīng)壓縮到1MB

擴(kuò)展: 錄制進(jìn)度動(dòng)畫為CADisplayLink + UIBezierPath實(shí)現(xiàn)烘挫,具體實(shí)現(xiàn)參照Demo

由于篇幅問題,簡(jiǎn)單總結(jié)一下柬甥,以上兩種方式系統(tǒng)都處理好了數(shù)據(jù)的存儲(chǔ)和顯示饮六,簡(jiǎn)單實(shí)現(xiàn)視頻的錄制,不支持實(shí)時(shí)濾鏡采集苛蒲,在下一篇文章卤橄,會(huì)介紹AVCaptureSession+AVAssetWriter和GpuImage分別實(shí)現(xiàn)實(shí)時(shí)濾鏡的采集

特別感謝以上朋友的技術(shù)分享

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市臂外,隨后出現(xiàn)的幾起案子窟扑,更是在濱河造成了極大的恐慌喇颁,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,590評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件嚎货,死亡現(xiàn)場(chǎng)離奇詭異橘霎,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)殖属,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門姐叁,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人洗显,你說我怎么就攤上這事外潜。” “怎么了挠唆?”我有些...
    開封第一講書人閱讀 169,301評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵处窥,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我损搬,道長(zhǎng)碧库,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,078評(píng)論 1 300
  • 正文 為了忘掉前任巧勤,我火速辦了婚禮嵌灰,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘颅悉。我一直安慰自己沽瞭,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,082評(píng)論 6 398
  • 文/花漫 我一把揭開白布剩瓶。 她就那樣靜靜地躺著驹溃,像睡著了一般。 火紅的嫁衣襯著肌膚如雪延曙。 梳的紋絲不亂的頭發(fā)上豌鹤,一...
    開封第一講書人閱讀 52,682評(píng)論 1 312
  • 那天,我揣著相機(jī)與錄音枝缔,去河邊找鬼布疙。 笑死,一個(gè)胖子當(dāng)著我的面吹牛愿卸,可吹牛的內(nèi)容都是我干的灵临。 我是一名探鬼主播,決...
    沈念sama閱讀 41,155評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼趴荸,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼儒溉!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起发钝,我...
    開封第一講書人閱讀 40,098評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤顿涣,失蹤者是張志新(化名)和其女友劉穎波闹,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體涛碑,經(jīng)...
    沈念sama閱讀 46,638評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡舔痪,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,701評(píng)論 3 342
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了锌唾。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片锄码。...
    茶點(diǎn)故事閱讀 40,852評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖晌涕,靈堂內(nèi)的尸體忽然破棺而出滋捶,到底是詐尸還是另有隱情,我是刑警寧澤余黎,帶...
    沈念sama閱讀 36,520評(píng)論 5 351
  • 正文 年R本政府宣布重窟,位于F島的核電站,受9級(jí)特大地震影響惧财,放射性物質(zhì)發(fā)生泄漏巡扇。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,181評(píng)論 3 335
  • 文/蒙蒙 一垮衷、第九天 我趴在偏房一處隱蔽的房頂上張望厅翔。 院中可真熱鬧,春花似錦搀突、人聲如沸刀闷。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽甸昏。三九已至,卻和暖如春徐许,著一層夾襖步出監(jiān)牢的瞬間施蜜,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評(píng)論 1 274
  • 我被黑心中介騙來泰國打工雌隅, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留翻默,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 49,279評(píng)論 3 379
  • 正文 我出身青樓澄步,卻偏偏與公主長(zhǎng)得像冰蘑,于是被迫代替她去往敵國和親和泌。 傳聞我的和親對(duì)象是個(gè)殘疾皇子村缸,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,851評(píng)論 2 361