ブラックメタルの現役ギタリストがHR/HMの最新情報をお届けします

「人工知能はいずれお互いに争い合って、惨劇を招く。」英科学者が語る

   

 

人間がプログラミングした人工知能が、ある日突然自我に目覚め、人類に反乱を起こす。

というのは某近未来SF映画の話ですが、そこまで大袈裟なことは無くとも、近い将来人工知能同士が互いに争い合うことは現実になりそうです。

オックスフォード大学の科学者達は、ソーシャルメディアやWikipediaで荒らしを除去するために使われていた人工知能が、本来デザインされた動きとは異なる、とても奇妙なふるまいをしていることを発見しました。
人工知能を搭載したボット同士が相互に干渉し始め、その相互作用が予測不可能な結果を及ぼしていたのです。

自動車の自動運転や、オンライン上のセキュリティシステム、ソーシャルメディアの運用に人工知能を使うことが、将来的には全面的な災いをもたらす可能性がある、と彼らは警鐘を鳴らしています。

彼らは、2001年から2010年までの10年間で、13の異なる言語版のWikipediaで、人工知能がどのように相互作用を及ぼし、どれだけWikipediaを混乱させたかを調査しました。

オックスフォードインターネット研究所のMilena Tsvetkova博士は、次のように述べています。

私たちは、ボットの振る舞いや人間の編集者との衝突が、文化的環境によって大きく異なることを発見した。
この結果は、私たちが人工知能をどのように設計するか、と言う点だけでなく、 私たちが人工知能をどのように研究するかと言う点にも意味を持つ。
私たちはボットの社会学をもっと研究する必要がある。

また、オックスフォードインターネット研究所のTaha Yasseri教授は次のように述べています。

この発見は、同じ技術でさえ文化的環境によって異なる成果を導くことを示している。
自動運転の自動車は、ドイツのアウトバーンを走る時と、イタリアのトスカーナの丘を通過する時で、異なる走り方をするだろう。
同様に、ボットが組み込まれているオンラインのインフラ基盤は、ボットの振る舞いやパフォーマンスに何かしらの影響を与える。
ボットは色々な国の人間によってデザインされているので、それらがお互いに出会った時、オンラインで衝突する可能性がある。
Wikipediaの異なる言語版で使用されている技術の違いや、Wikipediaの編集者の文化の違いが、複雑な相互作用を生み出すことがわかっている。
この複雑さは、自動化ボットや人工知能同士があらゆる対話を行う上で考慮するべき基本的な構造だ。

要するに人工知能同士がぶつかり合ったり、環境が変わったりすると予期しない行動をとる可能性があるので気を付けましょう、という事ですね。
こういうのは、今後自動車の自動運転が実用化された時とかに課題になっていくでしょう。
例えば、細い道で自動運転の車同士が鉢合わせになった時は、どっちかがバックして道を譲るような設計にしておく必要がある、とか。

参照:TheSun

 - 記事