騰訊首席 AI 科學家警告 AI 好快掌握生物學 錯誤可釀大禍
騰訊首席 AI 科學家姚順雨警告，人工智能對生物學嘅掌握日益增強，好快就可能造成傷害。佢認為，相關風險可能成為將先進模型保持封閉嘅理由，呼籲業界設立護欄，確保 AI 應用於生物學嘅發展安全。姚順雨領導騰訊 Hunyuan AI 模型系列，佢喺新加坡南洋理工大學一場活動上發表呢番言論。
生物學係下一個前沿 錯咗代價大
姚順雨話，生物學係 AI 嘅下一個前沿領域，錯誤嘅後果重大。喺大多數領域，AI 出錯都冇乜所謂，社交媒體帖文稍有錯誤，根本冇人在乎，大眾普遍容忍 AI 唔係百分百正確。佢話，即使 AI 有 50% 時間係錯嘅，仍然有用。
但生物學唔同。佢指出，喺生物學入面，錯誤可以係大問題，尤其當實驗室可以跟從指示做實驗，即係所謂濕實驗室（wet lab）。完全自主嘅 AI 實驗室喺某程度上仍然係科幻，但 AI 已經可以協助科學家完成流程入面每一步，包括設計實驗同解讀結果。
生成結果未經驗證 或誘使人做危險實驗
姚順雨亦警告，生成式 AI 可以產生睇落科學上合理、但未經仔細驗證嘅結果，呢啲結果可能誤導人，誘使佢哋進行危險實驗。佢話，並非 AI 講嘅一切都係真嘅，呢個可能誤導人，誘使佢哋做壞事。要得出結論，需要科學嚴謹性，或者做大量實驗。
同時，佢承認生成式 AI 亦為研究帶嚟好處。研究人員日益使用生成式 AI，已經帶嚟削減人力成本同加快研究嘅機會，佢話已經見到好多令人興奮嘅示範，例如生成分子、蛋白質或者佢哋嘅功能。
封閉模型有強烈理據 開源爭議未停
對於應該向世界提供幾多 AI 能力，姚順雨話必須非常小心，做法只有兩個：要麼決定唔發布嗰種能力，要麼設立護欄。佢認為，Anthropic 堅持封閉模型有好強嘅理據。騰訊同樣重視安全，佢話 AI 應用於生物學係騰訊非常關注嘅方向，但同時應該有更多護欄，確保事情安全。
呢番言論加入咗中國關於開源 AI 嘅討論。開源 AI 喺武器開發等方面嘅角色一直引發爭議，而騰訊本身亦有發布包括 Hunyuan 在內嘅開源 AI 模型。Anthropic 堅持封閉模型係出於安全考慮，話同樣基於安全理由從模型中移除有害能力，但批評者就指 Anthropic 係想壟斷 AI，確保控制能源供應同經濟。騰訊、Meta、百度同華為等中國 AI 公司喺內部進行開源開發，同時保留決定向公眾發布乜嘢嘅權利。
美方：晶片管制唔會拖慢中國 AI 發展
同場出席活動嘅仲有美國東北大學 AI 研究首席 Alistair Rennie，以及清華大學中國科技政策研究所副所長肖光。美國駐香港總領事 Anthony McHugh 喺活動上話，美國加強限制中國取得先進 AI 晶片，唔會減慢中國 AI 發展，因為中國公司更有效率咁運用運算資源，顯示雙方並非處於晶片競賽之中。
不過佢話，美國應該加倍推行出口管制，因為華盛頓擔心中國試圖將 AI 用於威脅國家安全嘅領域，美國唔會協助中國製造可以用來對付美國嘅技術。佢亦話，如果美國企業憑藉美國市場優勢，包括核心技術創新，並協助其他國家走上呢條路，仍然可以保持領先。
姚順雨嘅警告反映 AI 安全討論已經由一般應用，延伸到生物學呢類高風險領域。AI 協助科研嘅能力越嚟越強，開源定封閉、發布幾多能力，將繼續係中美 AI 業界同政策制定者要處理嘅問題。
來源：[South China Morning Post](https://www.scmp.com/tech/big-tech/article/3373697/ai-will-soon-master-biology-unleashing-new-safety-risks-tencent-ai-chief-warns)
