経営・ビジネスの課題解決メディア「経営プロ」

AIが人間に反乱するリスクを指摘 開発に制限の必要性――総務省

  • このエントリーをはてなブックマークに追加

 ロボットが参政権付与を要求したり、巧妙な振り込め詐欺を働いたりする――。総務省の研究所が6月20日に発表した人工知能(AI)システムの社会・経済への影響や課題に関する報告書が物議を醸している。

 AIで動くロボットに起こり得るリスクについて、通常考えられるハッキングや制御不能のほか、AIによってロボットが自らの意志を持ち、人間との関係が変わる可能性にも言及。これらのリスクを回避するために「人間に反乱するおそれのあるAI開発の事前の制限」の必要性を指摘している。

 物議を醸しているというのは、そもそも緒に就いたばかりのAIが意志を持って人間を支配しかねないと心配する漫画的な予想をばかばかしいと断ずる向きが多い半面、総務省の政策に正当性を与えるいつもの「調査」にすぎないと冷ややかな見方もある。

 4月末に高松市で開かれた主要7カ国(G7)情報通信相会合で、高市早苗総務相が「国際的なAIの開発原則を定めるべき」と各国に提案したが、その根底にはAIの開発競争が国家間で本格化する一方、AIの暴走や悪用による社会的問題が広がりかねないとの懸念がある。G7の前に、総務省の有識者会議が「人間による制御を可能にすることや、利用者や第三者の身体・生命に危害を及ぼさないようにする」などのAI開発指針案を公表しているが、今回の報告書はそれをより具体的かつ刺激的に表現したものだ。

 20日に発表された報告書には20項目に上る具体的なリスクが列挙されている。ハッキングやネットワーク遮断によってロボットが想定外の動きをする懸念や倫理的な問題も指摘。遺伝子などを基に亡くなった人を再現するロボットができた場合、「人間の尊厳」との関係で問題となるほか、人間に投棄された「野良ロボット」が権利付与を求める可能性も示している

 「ペッパー」などで知られるヒト型ロボットが、振り込め詐欺などの犯罪に悪用される可能性にも言及。ロボットを利用した犯罪手法に関する国際的な情報共有の必要性を指摘している。報告書では、研究開発の原則などでつくる指針「AI開発ガイドライン(仮称)」を策定することを検討すべきだと提案。総務省はこの報告書に基づいて、AI開発の指針をまとめ、経産省、文科省なども予算分捕り争いを繰り広げる霞が関でAI施策の主導権を握るのが最大の目的のようだ。


お気に入りに登録

プロフィール

 経済界

経済界

『経済界』は創刊53年を迎えたビジネス誌。
主に経営者の人物像にフォーカスし、企業の内面を深くえぐる報道に定評があります。
企業人のインタビューをはじめ、政財界のキーマンへの直接取材が最大の強みです。

関連ニュース

会員登録 / ログイン

会員登録すると会員限定機能や各種特典がご利用いただけます。 新規会員登録

会員ログインの方はこちら