在一通針對她祖父的深偽通話之後，這位創辦人打造了裝置端防禦

前言

背景： 一起使用極具說服力的偽造聲音的個人詐騙事件促使 Tarini Padmanabhuni 採取行動。本文說明為何裝置端的深偽語音檢測很重要，以及一家新創公司如何將家庭危機轉化為技術解決方案。目的是概述問題、目前市場局勢，以及她創立的公司 DetectifAI 採取的獨特做法。透過強調 對即時且隱私保護的防護需求，文章闡明為何裝置層級的防禦不同於雲端解決方案，以及它們如何幫助缺乏工具來驗證可疑來電的人。

要點摘要

關鍵要點： 深偽語音詐騙正在增加，尤其重創年長族群。DetectifAI 專注於打造 可在手機上運行的小型 AI 模型，以提供即時檢測而不將音訊送往雲端。該新創公司優先鎖定手機製造商，提供可以整合為系統功能的 SDK —— 同時也向處理敏感通話的企業授權。

正文

故事始於一通令人不安的電話。Tarini Padmanabhuni 的祖父收到一段語音訊息，他以為是他兄弟所錄，聲稱被綁架並要求贖金。模仿聽起來足夠逼真，導致他付了錢。家人後來才發現那兄弟平安無事且全然不知情；那段聲音是由 AI 製造的。對 Padmanabhuni 而言，這起事件的重點不是損失的金錢，而是受害者沒有任何可靠的方法來分辨真實聲音與深偽音訊。

那次經驗成為 DetectifAI 的催化劑，這是一家總部在舊金山的新創公司，專門偵測 AI 生成的聲音。公司的創立前提很直接：隨著合成音訊變得更真實且更易取得，人們——尤其是年長者——愈來愈容易成為利用聲音熟悉感與信任的詐騙目標。執法單位與業界數據也強化了這項擔憂。例如，近期數據顯示 AI 驅動的詐騙損失顯著增加，損失金額達數百萬美元，且年長族群受影響比例較高。

許多公司已在進行深偽檢測，該領域包含既有業者與新進者。像 Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety 與 Nuance 等公司都有相關解決方案。然而，這些方案通常在雲端分析音訊。雲端檢測能利用大型模型與大量運算資源，但也有其限制：提供結果時有延遲、依賴網路連線，以及因為音訊會離開使用者裝置而產生隱私疑慮。DetectifAI 主張這些限制在電話通話情境中特別重要，因為即時性與使用者隱私至關重要。

DetectifAI 的做法有所不同，從一開始就專注於構建緊湊模型——體積足夠小以在智慧型手機作業系統內運行。公司不是先使用大型雲端模型再嘗試壓縮以適配裝置，而是設計用於行動部署的輕量架構。這帶來雙重優勢：檢測變得即時且私密，手機製造商也能將此功能作為內建能力出貨，而無需仰賴第三方雲端服務。

公司的上市策略以手機製造商為優先。DetectifAI 授權一套軟體開發套件 (SDK)，OEM 能將其整合進作業系統，使深偽檢測成為手機的顯著差異化功能——類似於相機規格曾成為裝置賣點的方式。Padmanabhuni 表示，率先採用裝置端深偽檢測的廠商可能獲得競爭優勢，她也設想未來智慧型手機可能將深偽檢測列為標準規格。

除了裝置 OEM，DetectifAI 還計畫透過向需要審核語音互動的企業授權獲得次要收入——例如銀行、催收公司與詐欺防制機構等。該新創公司已報告早期成效：它為印度的金融機構每月處理超過 100,000 通通話。在這種情境中，AI 語音代理會撥打用於催收或貸款後續追蹤的電話，而 DetectifAI 在每次互動中提供檢測與說話者驗證，以降低濫用與冒充風險。雖然 Padmanabhuni 因保密原因拒絕點名客戶，但通話量顯示出需求與營運能力。

Padmanabhuni 的背景說明了她的自信來源。她年輕時便開始從事機器學習研究，並在 Manipal Institute of Technology 學習網路物理系統。她也領導學生工程團隊打造無人駕駛賽車——這顯示她早期即結合軟體、硬體與嚴謹系統思維。這類經驗的組合十分相關：為手機打造緊湊且可靠的 AI 需要理解模型設計、系統限制與實務部署挑戰。

實際的用戶測試也帶來令人鼓舞的跡象。一次 WhatsApp 的測試版允許使用者轉發可疑語音訊息並收到評估結果。某位測試者表示，他的親戚曾遭詐騙，會願意付費使用此類服務——凸顯了未被滿足的需求。Padmanabhuni 將這些早期用戶反應置於她祖父經驗的背景下：關鍵差別在於是否有一個可取得且可靠的工具來判斷聲音是否為真。

從商業角度看，DetectifAI 已從天使投資人與早期支持者那裡募得一小筆種子資金，為其精煉技術與擴展與手機製造商的整合討論提供了運行資金。該新創公司也參與一些高能見度的業界計畫，這可加速建立合作夥伴與市場認可。隨著深偽音訊成為主流的安全與隱私議題，能結合效能、速度與隱私——特別是裝置端解決方案的公司——可能在硬體與企業市場找到願意合作的夥伴。

然而，挑戰依然存在。裝置端模型受限於運算、記憶體與電池限制，這會限制檢測架構的複雜度。對手也會持續改進合成技術，要求模型不斷調整以保持有效性。與各式手機平台的整合以及各地區法規環境也會影響採用時程。最後，使用者教育與清晰的使用者體驗也很重要，讓人們理解檢測結果的意義以及該如何採取行動。

最終，DetectifAI 的主張建立在一個明確的權衡上：接受較小、專用的模型以保護隱私並提供即時回饋，或倚賴較大的雲端模型，可能在原始檢測能力上更強，但代價是延遲與隱私問題。對於像電話通話這類即時性與信任至關重要的使用情境，裝置端檢測提供了一個令人信服的解決方案。對 Padmanabhuni 來說，這項使命仍然是個人的：給予他人她祖父所缺乏的能力，一種簡單的方法來辨別通話中聲音是真實或被偽造的。

關鍵見解表