Block's new voice AI sounds eerily human, sparking awe and scam fears

CoinDesk 기사(Francisco Rodrigues)를 옮겼어요. 음성 샘플은 회사 시연이고 독립 검증 결과가 아니라고 기사도 밝혀요.

Dessa는 어떤 모델인가요

결제 회사 블록(Block)이 공개한 음성 AI예요.

• 텍스트가 아니라 사람 음성만으로 학습했고, 말하면서 동시에 들을 수 있어서 끼어들기, 웃음, 말투 변화를 대화 중에 처리해요.
• 음성을 먼저 텍스트로 바꾸는 방식과 달리 오디오를 직접 처리해요.
• NVIDIA GB200 NVL72 시스템 한 대로 처음부터 학습했고, M4 Max 이상 MacBook Pro에서 로컬로 돌아갈 만큼 작대요.
• 시연에서 Dessa는 문장 중간에 웃거나 놀람에 진짜 감정처럼 반응해요. 블록은 대화를 라이브로 녹음했고 누구도 응답을 지시하지 않았다고 했어요.

대화하면 사람과 이야기하는 느낌이에요. 감정, 뉘앙스, 멈춤, 자연스러운 박자로 가득해요. — 잭 도시(X)

반응: 감탄과 우려

• X 사용자들은 "이렇게 사람 같은 인공 소리는 처음 들었다", "완전히 SF 같다"고 반응했어요.
• 바이낸스 창업자 창펑 자오(CZ)는 자신의 교육 프로젝트 GiggleAcademy에 좋겠다며, 지금의 'AI 목소리'로 아이들을 가르치는 게 어려웠다고 했어요.
• 반면 영화감독 Justine Bateman은 AI 목소리가 왜 사람처럼 들려야 하냐며 "사람들의 경계를 낮춰 속이려는 것"이라고 했고, 기자 Shiv Aroor는 "사기 전화가 팬데믹 수준이 될 것"이라고 썼어요.

아직 공개되지 않은 것

• 블록은 모델 크기, 벤치마크, 공개 일정을 밝히지 않았어요.
• 지금은 연구 프리뷰이고, 소수의 AI 안전 연구자에게 먼저 제공돼요.
• 블록은 음성 기반 AI가 텍스트 기록으로는 놓치는 고통이나 괴로움 같은 감정 신호를 더 잘 알아챌 수 있게 될 거라고 하면서, 연구자들이 회사가 놓친 위험을 평가하길 바란대요.

블록은 Square, Cash App, 비트코인 지갑 Bitkey, 채굴 장비 부문 Proto를 운영해요. AI 연구소는 도시에게 직접 보고하고, 2020년 Square가 인수한 토론토 AI 스타트업 Dessa 출신들이 있대요.