Android Audio (4) : 녹음(Record) 데이터 흐름

1. 녹음(Record) 데이터 흐름

녹음은 외부 소스(마이크, 스트림 등)에서 데이터를 캡처하여 앱으로 전달하거나 저장/전송하는 과정입니다.

단계별 흐름

  1. 외부 소스 (마이크, 블루투스 등):
    • 데이터: 아날로그 오디오 신호(마이크) 또는 디지털 스트림(블루투스, USB).
    • 예: 마이크에서 소리를 캡처하거나 네트워크 스트림 입력.
  2. 입력 장치 (AudioSource):
    • 소스 선택: AudioSource.MIC, AudioSource.VOICE_COMMUNICATION, AudioSource.REMOTE_SUBMIX 등.
    • 설정: 샘플레이트(예: 44.1kHz), 채널(모노/스테레오), 비트 깊이(16비트 PCM).
    • 데이터: 아날로그 신호 → ADC(아날로그-디지털 변환) → PCM 데이터.
  3. Audio HAL (Hardware Abstraction Layer):
    • 역할: 하드웨어(마이크, 블루투스 장치)와 안드로이드 시스템 간 인터페이스.
    • 데이터: PCM 데이터를 하드웨어에서 시스템으로 전달.
    • 예: 드라이버가 마이크 데이터를 읽어 상위 계층으로 전송.
  4. AudioFlinger:
    • 역할: 안드로이드의 오디오 믹서로, 입력 스트림을 처리하고 라우팅.
    • 데이터: PCM 데이터를 수집하여 AudioRecord 또는 AAudio로 전달.
    • 추가: 노이즈 캔슬링, 게인 조절 등 전처리 가능.
  5. AudioRecord / AAudio:
    • API: AudioRecord(자바) 또는 AAudio(네이티브, 저지연)로 PCM 데이터 캡처.
    • 동작: AudioRecord.read()로 버퍼에 데이터 저장.
    • 데이터: PCM 데이터 → 앱의 메모리 버퍼.
  6. 앱 처리:
    • 처리: PCM 데이터를 인코딩(예: MediaCodec으로 MP3/AAC), 효과 적용, 실시간 스트리밍.
    • 예: 이퀄라이저 적용, 노이즈 필터링, 또는 WebRTC로 스트리밍.
  7. 저장/전송:
    • 저장: MediaMuxer로 MP4 파일 생성 또는 로컬 스토리지에 PCM 저장.
    • 전송: 네트워크로 전송(예: RTP/RTSP 프로토콜).
    • 데이터: 처리된 오디오 데이터 → 파일 또는 네트워크.

고려사항

  • 권한: RECORD_AUDIO, WRITE_EXTERNAL_STORAGE.
  • 버퍼 관리: AudioRecord.getMinBufferSize()로 지연 최소화.
  • 포커스: AudioManager.requestAudioFocus로 다른 앱과의 충돌 방지.

 

Comments

Post a Comment

Popular posts from this blog

TinyZero 따라하기 (1)

https://github.com/Jiayi-Pan/TinyZero  TinyZero는 딥러닝 모델인 DeepSeek R1-Zero를 카운트다운 및 곱셈 작업에서 재현한 프로젝트로, veRL을 기반으로 구축되었습니다. 이 프로젝트는 30달러 미만의 비용으로 30억 개의 매개변수를 가진 언어 모델이 강화 학습을 통해 자체적으로 자기 검증 및 검색 능력을 개발하는 과정을 보여줍니다.  설치 및 훈련에 대한 자세한 지침은 GitHub 저장소의 README 파일에서 확인할 수 있습니다.  또한, 전체 실험 로그는 Weights & Biases 플랫폼에서 확인할 수 있습니다.  만약 내가 이걸 따라하고 싶다면? TinyZero를 직접 따라하고 싶다면 다음과 같은 단계로 진행하면 됩니다. 이 프로젝트는 PyTorch 기반의 딥러닝 및 강화 학습 지식이 약간 필요합니다. 1. 환경 준비 필수 요구사항: Python 3.10 이상 PyTorch (CUDA 지원 추천) transformers , accelerate , wandb 등 필수 라이브러리 git clone https://github.com/Jiayi-Pan/TinyZero.git cd TinyZero pip install -r requirements.txt 2. 프로젝트 구성 이해 TinyZero는 크게 3단계로 구성됩니다: (1) 사전 훈련 (Pretraining) scripts/pretrain.sh 또는 train.py 를 통해 실행 GPT-2 모델을 PPO 없이 먼저 기본 학습시킴 (2) 강화 학습 (RLHF with PPO) scripts/train_ppo.sh 이 단계에서 언어모델은 자체적으로 "질문-답변"의 품질을 평가하며 학습함 (3) 검증 및 결과 분석 Weights & Biases ( wandb )로 학습 로그 및 성능 모니터링 3. 실행 예시 accelerate launch train.py \   --config_file conf...
Read more

TinyZero 따라하기 (3)

  Colab용 간이 실행 코드 Colab Pro에서 TinyZero를 실행할 수 있도록 만든 간이 실행 코드. 복잡한 스크립트 없이 사전 학습 (pretraining) 파트만 실행해보는 버전. # [1] 기본 셋업 !git clone https://github.com/Jiayi-Pan/TinyZero.git %cd TinyZero !pip install -r requirements.txt # [2] Pretraining 설정 파일 확인 !cat configs/pretrain_config.yaml # [3] 사전 학습 실행 !accelerate launch train.py \   --config_file configs/pretrain_config.yaml ⚠️ accelerate config 는 Colab에서는 자동 설정되므로 생략 가능함. GPU는 Colab Pro+에서 A100 나오면 더 좋음. 주요 코드 흐름 분석 TinyZero는 PPO (Proximal Policy Optimization) 를 사용한 RLHF (Reinforcement Learning with Human Feedback) 기반 언어모델 훈련 구조를 단순화한 프로젝트야. 핵심 구성요소 파일 설명 train.py 사전 학습 수행 (Pretraining, PPO 없이) train_ppo.py PPO 알고리즘 기반 강화 학습 수행 model.py HuggingFace 기반 GPT 모델 정의 dataset.py Pretraining용 학습 데이터 생성 및 처리 reward_model.py 생성된 응답 평가용 보상 모델 ppo_trainer.py PPO 알고리즘 핵심 로직 (update steps 등) 흐름 요약 [1] train.py load_dataset() → create_dataloader() → Trainer.train() PPO 없이 기본 언어모델 사전학습 수행 [2] train_ppo.py 사용자 질문에 대한 응답을 생성 → reward_model 로...
Read more

TinyZero 따라하기 (2)

Google Colab Pro나 A100 클라우드 환경 추천 1. Google Colab (Pro / Pro+) 기본 Colab 무료, 하지만 T4 / P100 GPU 제공 (성능이 낮음) 세션 제한이 자주 걸림 (최대 12시간) 작은 모델만 실험 가능 Colab Pro / Pro+ 약 월 12,000~26,000원 T4 / A100 / V100 랜덤 배정 메모리: 최대 32GB RAM / 16GB VRAM (A100은 40GB) 간편하고 바로 실행 가능 추천: 실험용으로 시작할 땐 Colab Pro 괜찮음 2. Kaggle 노트북 무료 GPU 제공 (최대 30시간/주) T4 GPU 제공 사양은 낮지만 기본 실험에는 충분 단점: 리소스가 적고 시간이 제한적임 3. Lambda Labs Cloud A100 인스턴스 시간당 약 $1.10 강력한 GPU, 커스텀 환경 구축 가능 SSH 접속 가능 (실제 서버 느낌) 단점: 클라우드 서버 세팅 약간 번거로움 4. Paperspace Gradient Free / Core / Pro 플랜 A100 인스턴스 사용 가능 (유료) Jupyter 환경 바로 사용 가능 장점: 클라우드 Colab 같은 UI 단점: 유료 플랜 가격이 조금 비쌈 5. 개인 서버 or 데스크탑 RTX 3090 이상 보유 시 직접 실행 가능 VRAM 24GB 이상이면 웬만한 실험 가능 장점: 자유도 높음 단점: 직접 환경 구성해야 함 추천 요약 목적 추천 환경 입문, 간단 테스트 Colab (무료) 실험 위주 진행 Colab Pro / Pro+ 대규모 실험 Lambda, Paperspace 최고 성능 A100 (클라우드)
Read more