テンセントの首席AI科学者が警告、AI生物学能力が急速に進展し安全リスク増加

gray and white rolled cable — Steve A Johnson / Unsplash

テンセントの首席AI科学者で元OpenAI研究員の姚顺雨氏は、最先端の人工知能モデルが生物学分野に急速に進出しており、現実的な危害をもたらす可能性のある臨界点に達しようとしていると警告した。新薬開発と医学革新を推進する可能性がある一方で、新たなセキュリティ上の課題をもたらす可能性があると述べた。

姚顺雨氏は、AIがネットワークセキュリティ分野で実際の影響を与える能力を既に示しており、生物学能力も同様の水準に近づいていると指摘した。生物学分野でのAI発展はネットワークセキュリティ分野よりも管理が難しくなる可能性があり、中国企業を含むオープンモデル路線を採用する企業は安全問題に真摯に対処する必要があると警告した。

テンセントは11月4日に新世代フラッグシップモデルHy4を正式に発表した。同社はこのモデルを最も重要な基礎モデルの一つと位置付けており、評測機関Artificial Analysisのデータによると、Hy4は現在中国で最も性能の高いAIモデルの一つとなっている。

テンセントはHy4の訓練過程で一連のセキュリティ対策を実施した。ソフトウェア脆弱性の悪用と攻撃行為に関連するデータを意図的に除外し、防御的なネットワークセキュリティ知識のみを保持した。生物学分野については、Hy4は基礎生物学知識は強いが、独立して実験プロセスを策定し高リスク能力を形成するまでには明らかな差があると評価している。

姚顺雨氏は、生物学分野ではネットワークセキュリティ分野よりも「攻撃能力」と「防御能力」の区別が難しいと強調した。このため研究者がモデルリスクを評価する際により複雑な状況に直面することになり、モデル公開前により厳格なテストと検証が必要になるという。