使用OpenSL ES开发音频录制功能

OpenSL ES全称为Open Sound Library for Embedded Systems,是一个嵌入式、跨平台、免费的音频处理库。为嵌入式移动多媒体设备上的应用开发者提供标准化、高性能、低延迟的API。OpenHarmony的Native API基于Khronos Group开发的OpenSL ES 1.0.1 API 规范实现,开发者可以通过<OpenSLES.h>和<OpenSLES_OpenHarmony.h>在OpenHarmony上使用相关API。

OpenHarmony上的OpenSL ES

OpenSL ES中提供了以下的接口,OpenHarmony当前仅实现了部分接口,可以实现音频录制的基础功能。

调用未实现接口后会返回**SL_RESULT_FEATURE_UNSUPPORTED,**当前没有相关扩展可以使用。

以下列表列举了OpenHarmony上已实现的OpenSL ES的接口,具体说明请参考OpenSL ES规范:

  • OpenHarmony上支持的Engine接口:

    • SLresult (*CreateAudioPlayer) (SLEngineItf self, SLObjectItf * pPlayer, SLDataSource *pAudioSrc, SLDataSink *pAudioSnk, SLuint32 numInterfaces, const SLInterfaceID * pInterfaceIds, const SLboolean * pInterfaceRequired)
    • SLresult (*CreateAudioRecorder) (SLEngineItf self, SLObjectItf * pRecorder, SLDataSource *pAudioSrc, SLDataSink *pAudioSnk, SLuint32 numInterfaces, const SLInterfaceID * pInterfaceIds, const SLboolean * pInterfaceRequired)
    • SLresult (*CreateOutputMix) (SLEngineItf self, SLObjectItf * pMix, SLuint32 numInterfaces, const SLInterfaceID * pInterfaceIds, const SLboolean * pInterfaceRequired)
  • OpenHarmony上支持的Object接口:

    • SLresult (*Realize) (SLObjectItf self, SLboolean async)
    • SLresult (*GetState) (SLObjectItf self, SLuint32 * pState)
    • SLresult (*GetInterface) (SLObjectItf self, const SLInterfaceID iid, void * pInterface)
    • void (*Destroy) (SLObjectItf self)
  • OpenHarmony上支持的Recorder接口:

    • SLresult (*SetRecordState) (SLRecordItf self, SLuint32 state)
    • SLresult (*GetRecordState) (SLRecordItf self,SLuint32 *pState)
  • OpenHarmony上支持的BufferQueue接口

    以下接口需引入<OpenSLES_OpenHarmony.h>使用。

接口 说明
SLresult (*Enqueue) (SLOHBufferQueueItf self, const void *buffer, SLuint32 size) 根据情况将buffer加到相应队列中。
如果是播放操作,则将带有音频数据的buffer插入到filledBufferQ_队列中;如果是录音操作,则将录音使用后的空闲buffer插入到freeBufferQ_队列中。
self:表示调用该函数的BufferQueue接口对象。
buffer:播放时表示带有音频数据的buffer,录音时表示已存储完录音数据后的空闲buffer。
size:表示buffer的大小。
SLresult (*Clear) (SLOHBufferQueueItf self) 释放BufferQueue接口对象。
self:表示调用该函数的BufferQueue接口对象将被释放。
SLresult (*GetState) (SLOHBufferQueueItf self, SLOHBufferQueueState *state) 获取BufferQueue接口对象状态。
self:表示调用该函数的BufferQueue接口对象。
state:BufferQueue的当前状态。
SLresult (*RegisterCallback) (SLOHBufferQueueItf self, SlOHBufferQueueCallback callback, void* pContext) 注册回调函数。
self:表示调用该函数的BufferQueue接口对象。
callback:播放/录音时注册的回调函数。
pContext:播放时传入待播放音频文件,录音时传入将要录制的音频文件。
SLresult (*GetBuffer) (SLOHBufferQueueItf self, SLuint8** buffer, SLuint32* size) 根据情况获取相应的buffer。
如果是播放操作,则从freeBufferQ_队列中获取空闲buffer;如果是录音操作,则从filledBufferQ_队列中获取携带录音数据的buffer。
self:表示调用该函数的BufferQueue接口对象。
buffer:播放时表示空闲的buffer,录音时表示携带录音数据的buffer。
size:表示buffer的大小。

完整示例

在 CMake 脚本中链接动态库

target_link_libraries(sample PUBLIC libOpenSLES.so)

参考下列示例代码,完成音频录制。

  1. 添加头文件

    #include "SLES/OpenSLES.h"
    #include "SLES/OpenSLES_OpenHarmony.h"
    #include "SLES/OpenSLES_Platform.h"
    
  2. 使用slCreateEngine接口创建引擎对象和实例化引擎对象engine。

    SLObjectItf engineObject = nullptr;
    slCreateEngine(&engineObject, 0, nullptr, 0, nullptr, nullptr);
    (*engineObject)->Realize(engineObject, SL_BOOLEAN_FALSE);
    
  3. 获取接口SL_IID_ENGINE的引擎接口engineEngine实例。

    SLEngineItf engineItf = nullptr;
    (*engineObject)->GetInterface(engineObject, SL_IID_ENGINE, &engineItf);
    
  4. 配置录音器信息(配置输入源audiosource、输出源audiosink),创建录音对象pcmCapturerObject。

    SLDataLocator_IODevice io_device = {
        SL_DATALOCATOR_IODEVICE,
        SL_IODEVICE_AUDIOINPUT,
        SL_DEFAULTDEVICEID_AUDIOINPUT,
        NULL
    };
    SLDataSource audioSource = {
        &io_device,
        NULL
    };
    SLDataLocator_BufferQueue buffer_queue = {
        SL_DATALOCATOR_BUFFERQUEUE,
        3
    };
    // 具体参数需要根据音频文件格式进行适配
    SLDataFormat_PCM format_pcm = {
        SL_DATAFORMAT_PCM,           // 输入的音频格式
        1,                                              // 单声道
        SL_SAMPLINGRATE_44_1,        // 采样率: 44100HZ
        SL_PCMSAMPLEFORMAT_FIXED_16, // 音频采样格式,小尾数,带符号的16位整数
        0,
        0,
        0
    };
    SLDataSink audioSink = {
        &buffer_queue,
        &format_pcm
    };
    
    SLObjectItf pcmCapturerObject = nullptr;
    (*engineItf)->CreateAudioRecorder(engineItf, &pcmCapturerObject,
        &audioSource, &audioSink, 0, nullptr, nullptr);
    (*pcmCapturerObject)->Realize(pcmCapturerObject, SL_BOOLEAN_FALSE);
    
    
  5. 获取录音接口SL_IID_RECORD的recordItf接口实例。

    SLRecordItf  recordItf;
    (*pcmCapturerObject)->GetInterface(pcmCapturerObject, SL_IID_RECORD, &recordItf);
    
  6. 获取接口 SL_IID_OH_BUFFERQUEUE 的 bufferQueueItf 实例

    SLOHBufferQueueItf bufferQueueItf;
    (*pcmCapturerObject)->GetInterface(pcmCapturerObject, SL_IID_OH_BUFFERQUEUE, &bufferQueueItf);
    
  7. 注册BufferQueueCallback回调。

    static void BufferQueueCallback(SLOHBufferQueueItf bufferQueueItf, void *pContext, SLuint32 size)
    {
        // 可从pContext获取注册时传入的使用者信息
        SLuint8 *buffer = nullptr;
        SLuint32 pSize = 0;
        (*bufferQueueItf)->GetBuffer(bufferQueueItf, &buffer, &pSize);
        if (buffer != nullptr) {
            // 可从buffer内读取录音数据进行后续处理 
            (*bufferQueueItf)->Enqueue(bufferQueueItf, buffer, size);
        }
    }
    void *pContext; // 可传入自定义的上下文信息,会在Callback内收到
    (*bufferQueueItf)->RegisterCallback(bufferQueueItf, BufferQueueCallback, pContext);
    
  8. 开始录音。

    (*recordItf)->SetRecordState(recordItf, SL_RECORDSTATE_RECORDING);
    
  9. 结束音频录制。

    (*recordItf)->SetRecordState(recordItf, SL_RECORDSTATE_STOPPED);
    (*pcmCapturerObject)->Destroy(pcmCapturerObject);