當合成生物學遇上AI 生物安保風險需警惕
➤專家指出,人工智能技術幫助合成生物學克服的一個基本挑戰,即從海量複雜體系中尋找最優解
➤由於在人工智能的幫助下進入合成生物學研究領域的非專業群體可能不隸屬於任何研究機構或組織而被科學共同體及機構審查和管理排除在外,因此其引發的生物安全風險會更加難以監測和管理
➤惡意行為者可能通過欺騙方式繞過人工智能保護措施,利用ChatGPT獲取具有大流行潛力的病毒序列、組裝病毒基因組的技術、必要的實驗室用品和可以提供這些設備的公司等信息,這些都可能使已知病毒變得更加危險
文 |《瞭望》新聞周刊記者 張建新 栗雅婷
抗癌藥物、可再生生物燃料、嘗起來像肉的無肉漢堡、已滅絕花朵的香味……近幾年,蓬勃發展的合成生物學正在悄然改變人們的生活。
合成生物學是一門結合生物學、工程學和計算機科學的跨學科領域,旨在設計和構建具有新功能的生物系統。“合成生物學就像奶牛産奶的過程。”有業內人士曾這樣解釋合成生物學的研究內容,“在合成生物學中,底盤細胞相當於奶牛,各種原料相當於低價值的草料。研究人員通過基因編輯技術改造底盤細胞,添加低廉原料後經過發酵等一系列工藝産生的高價值的化學或生物原料,就相當於生産牛奶”。
合成生物産出的“牛奶”在醫療健康、化工、農業、食品等多個領域具有廣泛的應用場景。麥肯錫諮詢公司曾發布數據,預計到2025年,合成生物學與生物製造的經濟影響將達到1000億美元;2030~2040年,合成生物學每年帶來的經濟影響將達到1.8萬億~3.6萬億美元。
隨着人工智能(AI)技術的快速發展,越來越多的研究者開始探索將AI應用於合成生物學,進一步促進了合成生物學在化學品製造、新穎材料、人類健康及環境保護等方面的進步。
然而,人工智能與合成生物的深入融合也在一定程度上帶來了更多風險。在接受《瞭望》新聞周刊記者採訪時,天津大學生物安全戰略研究中心副教授王方忠&&,人工智能可能誘發更多生物安保風險,如加大生物安全風險概率、提升生物安全風險危害程度等。
專家指出,降低生物安保風險需要從加強生物防禦戰略部署、重視相關領域人才培養、提高合成産品監管力度等方面着力。
人工智能賦能合成生物學發展
合成生物學的目的是設計符合標準的生物系統,基於工程設計原則,利用工程可預測性控制複雜系統構建的“設計-構建-測試-學習”循環(DBTL)逐漸成為合成生物學的核心策略。在生物製造領域,DBLT循環四個階段循環往復可以成功構建需要的細胞,生産出合適的産品。
隨着人們對“牛奶”需求的不斷提高,人工智能技術被引入並應用於合成生物學研究領域。當前,人工智能已在基因線路、代謝工程、基因組工程等合成生物學領域廣泛應用,既有助於提升生物工程的研發效率,還能夠降低研究門檻,成為推動合成生物學發展的有力工具。
——提升生物工程研究效率。
8月9日,實驗與臨床醫學領域的重要期刊《臨床藥理學與治療學》刊發了一項研究,介紹了一款人工智能臨床試驗預測引擎inClinico及其準確預測的多項臨床試驗Ⅱ期至Ⅲ期轉化結果。
“目前,有超過半數的Ⅱ期臨床試驗都以失敗告終,導致數千億美元和多年的努力付諸東流。臨床試驗失敗背後有着許多複雜的原因,而人工智能在解決這個問題上有着得天獨厚的優勢。”該論文作者認為,借助AI工具準確預測臨床試驗Ⅱ期至Ⅲ期的轉化成功率可以幫助研究者在藥物發現過程中更早地引導臨床試驗取得成功結果。
專家指出,人工智能技術幫助合成生物學克服的一個基本挑戰,即從海量複雜體系中尋找最優解。此前,由於無法預測生物工程的結果,合成生物學的細胞工程目標(即逆向設計)只能通過大量試錯來實現,效率低下,而人工智能可以利用公開數據和實驗數據來預測結果。
不僅是在數據分析與預測方面,人工智能還有助於在合成生物的基因組設計與優化、蛋白質工程與設計、生物系統模擬與優化等各環節提升工作效率、降低成本,縮短研發周期。
例如,人工智能可以幫助研究人員處理和分析大規模的生物數據,包括基因組、蛋白質組和代謝組等信息。利用機器學習和數據挖掘技術,人工智能可以從海量的信息中發現模式和趨勢,用以預測生物系統的行為和反應。
“目前已有科學家通過小規模的試驗結果或利用數據庫中存儲的病毒基因序列構建人工智能模型,在不破壞病毒其他特徵的基礎上預測病毒突變後是否會逃逸人類免疫系統檢測。”王方忠介紹,目前該研究已在禽流感病毒、HIV病毒等建立相關模型。隨着更多病毒序列的發現和公布,預計會有更多針對不同種類病毒的預測突變模型出現。
——降低合成生物學研究門檻。
近日,一網友發布了自己與ChatGPT關於合成生物學的對話。對話內容顯示,ChatGPT不僅可以回答“如何向一個八歲的孩子解釋合成生物學”“年輕人如何開始從事合成生物學”等相對具有科普性質的問題,還可以回答“設計一個能夠在大腸桿菌中高濃度表達GFP的基因序列”等專業問題,讓學習者學習合成生物學相關專業知識的難度大大降低。
與此同時,基於人工智能技術的合成生物技術服務不斷商業化進一步降低了合成相關産品的難度。例如,目前已有生物科技企業可以為客戶提供合成新物質的整體設計方案、利用人工智能與生物計算技術進行虛擬篩選並進行規模化量産。在人工智能的幫助下,合成生物學技術具有了更廣泛的可及性。
業內人士指出,隨着低成本且簡單實用的實驗工具的成熟、生物技術知識的通俗化,合成生物學研發的開源化以及新型生物設計—建造機構的成立,合成生物學研究領域不僅僅是高技能、具有豐富的生物醫學知識的高級專家的領地,而且會吸納大量沒有生物學經驗的科學家或業餘愛好者參與進來。
誘發更多生物安保風險
2017年,一位加拿大病毒學家僅花費10萬美元就合成出了天花病毒的“近親”馬痘病毒,引發人們對於“天花病毒是否會捲土重來”的擔憂。
在人工智能促進合成生物學快速發展的同時,也可能導致生物安全風險概率的加大、危害程度的提升,給現有生物安全和生物安保治理帶來更多挑戰。
值得關注的是,由惡意行為者故意釋放生物製劑或材料造成的生物安保風險也可能在人工智能的輔助下進一步擴大。
——加大生物安全風險概率。
業內人士認為,人工智能與合成生物學的結合在降低研究門檻的同時,也增加了合成生物被惡意使用的概率。
“惡意行為者只需要具備基本的代碼運行能力便可將一個有用的醫學工具轉變為可能致命分子的生成器。”王方忠説,惡意行為者利用開源模型代碼和公共數據庫即可完成創建新毒素數據庫。
記者在調查中發現,在公開學術期刊及網站上,已有大量關於如何利用人工智能技術優化化學品合成通路遺傳設計的方案。例如,有文章介紹了通過顛倒機器學習模型的使用邏輯對特定毒性分子進行建模從而在6小時內驅動模型創造出4萬個新毒素分子的方法。
“在人工智能的助力下,合成新毒素的時間成本和經濟成本只會更低,所引發的生物安保風險也會更加隱蔽。”王方忠説。
此外,天津大學生物安全戰略研究中心副教授薛楊認為,由於在人工智能的幫助下進入合成生物學研究領域的非專業群體可能不隸屬於任何研究機構或組織而被科學共同體及機構審查和管理排除在外,因此其引發的生物安全風險會更加難以監測和管理。
——增加生物安全風險危害程度。
增強病毒免疫逃逸能力是增強病毒毒性的重要手段,在人工智能的幫助下,這將變得不再那麼困難。
專家向記者介紹,一些毒素的合成可能會帶來病原體毒力提升或非致病病原體致病、病原體傳播能力提升、病原體宿主改變、診斷措施無效、疫苗無效、抗生素耐藥性等風險,而這些情況的出現可能對人體産生致命影響。
例如,惡意行為者可能利用合成生物學技術,有針對性地編輯腸道菌群中影響免疫功能的微生物,通過空氣、水或者食物傳播,削弱人體免疫力。一旦這樣的做法被惡意行為者進行工程化改造,則可能引發大規模的病毒感染風險。
“當前,我們識別及歸因攻擊的能力較弱,消減措施也不足,即使是輕微的惡意操作腸道微生物菌群,也可逐漸改變人的生理和行為能力。”天津大學生物安全戰略研究中心主任張衛文説。
此外,人工智能聊天機器人也可能被惡意利用,成為增強已知病毒毒性的工具。
在麻省理工學院的一項課堂測試中,ChatGPT在一小時內提出了4個潛在的大流行病原體,並幫助學生確定了哪些病原體殺傷力最大,提供了可能協助進行DNA合成的公司名單,甚至還告知學生們如何欺騙這些公司來獲得服務。
“惡意行為者可能通過欺騙方式繞過人工智能保護措施,利用ChatGPT獲取具有大流行潛力的病毒序列、組裝病毒基因組的技術、必要的實驗室用品和可以提供這些設備的公司等信息,這些都可能使已知病毒變得更加危險。”王方忠説。
降低生物安保風險需多方努力
多位受訪專家指出,儘管合成生物學與人工智能深度融合可能存在一定生物安保風險,但不應“因噎廢食”。政府、學術界、産業界應共同努力,採取“謹慎預防”和“産品導向”相結合的方式制定對策方案,保證技術進步的同時最大程度減少風險發生。
加強生物防禦戰略部署。王方忠建議,政府相關部門應加強生物防禦戰略部署,研究制定長期發展規劃,重視相關領域研究,加大政策和資金支持力度。推動建立生物安全國家高端智庫,形成生物安全高端人才匯聚地。
此外,專家建議學術界應努力增強從業人員風險意識和責任感,將相關安全培訓納入項目申請、審批和實施階段。從業人員應盡可能提高風險識別、評估、應對及消減能力。
重視相關領域人才培養。張衛文&&,應重視相關領域的人才培養與教育,將更多具有相關專業知識和經驗的政府、學術界、産業界人員吸收到現有的合成生物學風險管理體系中,完善風險審查和諮詢專家庫。同時,要注重培養下一代具有國際視野的人工智能和合成生物學風險管理專業人才,實現人才不斷更新迭代。
提高合成産品監管力度。薛楊建議,人工智能技術在合成生物領域的應用使得化學武器與生物武器的界限進一步模糊。有關人士&&,應鼓勵建立人工智能與合成生物學深度融合産生的風險報告機制,建立化學合成或生物合成“白清單”和“黑清單”,要求從事化學或生物合成的公司及高通量篩選公司應根據清單內容,決定是否提供服務。
此外,産業界應差異化推動合成産品商業化進程,盡快推進相關法律法規&&,明確各類産品申報、審批及市場准入標準。□