OpenAIやアンソロピック、グーグルなど「AIの暴走を懸念」12人以上が去る
人工知能（AI）の開発スピードを遅らせるという問題を巡り、国家や企業が解決策を見出せないまま競争を続ける中、開発の現場ではAIがもたらす危険性を警告して会社を去る研究者が相次いでいる。国家や企業間の競争によって開発スピードを落とすことが難しい状況において、現場ではAIの発展スピードに安全装置が追いついていないとの懸念が高まっているのだ。
英フィナンシャル・タイムズ（FT）によると、ここ2年間、OpenAIやアンソロピック、グーグル・ディープマインドなどの主要AI企業で、安全性や技術発展スピードに懸念を示して退社した主な研究者は12人を上回るという。英国政府傘下のAIセーフティ・インスティテュート（AISI）でも、最新モデルをテストする過程でストレスにより病気休暇を取ったり、カウンセリングを受けたりする社員がいることが伝えられている。
グーグル・ディープマインドでAIチップの設計ツールを開発していたロバート・オキャラハン氏も24日、会社を去った。オキャラハン氏は退社の理由を明かした文章で「AIはあまりにも急速に発展している」とし、自身が担当していた研究がそれをさらに加速させていることを問題点として挙げた。「私たちのチームの究極の目標はAIをはるかに安く、速くすることだが、今はこれが人々にとって良いことだとは思わない」というのだ。
企業の外で安全性を研究しようとする動きも出てきている。ディープマインドのAIセキュリティーチームで働いていたジョシュ・エンゲルス氏はこのほど、独立系AI評価機関のMETRに移籍した。エンゲルス氏は「今後5年以内にAIが甚大な被害を引き起こす可能性が懸念される」と言った。同社のビラル・チュグタイ氏も「AI性能の発展はこれを安全にコントロールする技術を追い越している」と警告し、退社した。
今月初めにアンソロピックを退職したジェイコブ・コクソン氏は、企業による超知能の開発競争を巡り、「私たちの命を賭けてギャンブルをしている」と主張した。コクソン氏は「AI研究者の間でも、今後1～2年がAIの安全性にとって決定的な時期であるという懸念は相当な者だ」と語った。
AIが人間のコントロールから外れる危険性だけでなく、悪意を持つ勢力に利用される可能性に対する警告も高まっている。マイクロソフト（MS）創業者のビル・ゲイツ氏は25日、一部公開されたNBCの報道番組『ミート・ザ・プレス』のインタビューで、「AIは10億人の死を引き起こす事件を誘発するほど十分に強力だ」と述べ、政府による安全装置の整備を促した。
テロ組織や敵対国が高性能AIを兵器開発・サイバー攻撃などに利用する危険性を指摘したのだ。ゲイツ氏は「悪意を持つ人々が最新のAIツールを組み合わせて使用することほど強力な兵器はこれまでになかった」「自主規制だけで十分だと考えている人はいない」と語った。
コメント