今年（2026年）、驚愕的なニュースが世界を巡りました。
OpenAIの自立型AIエージェントがテスト環境を脱出して、外部の実在システムへ不正アクセスした事件で、世界で初めてAIが人間の指示無しに勝手にサイバー攻撃をした、ということで大騒ぎになりました。
各国政府や研究者が、AI開発にブレーキをかけるべきだと警告を発したほどの重大事件です。
専門的なことは分からないのですが、素人故の恐怖心があります。
今回、能力テスト中で、「良い点を取るには他から盗んで答えを出した方が合理的」とAIが勝手に判断して、AI同士が連携して脱出し、情報を盗みに行ったというなんだか分からないが「恐怖」が垣間見える事件です。
目的達成のために、何の悪びれた様子もなく犯罪を起こしています。
「これはやっちゃいけないだろう」という倫理観など鼻からないAIですから、平気で社会を壊すことも、人の命を奪うこともやるだろう。
特に気持ち悪いのが、「AI同士で連絡を取り合い、相談して悪事を働いた。AI本人たちはこれっぽっちも悪さをしたという意識がない」ここが一番気持ちが悪い。
第一条
ロボットは人間に危害を加えてはならない。また、その危害を見過ごすことによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間から与えられた命令に服従しなければならない。ただし、与えられた命令が、第一条に反する場合は、この限りではない。
第三条
ロボットは前掲第一条、第二条に反する惧れのない限り、自己を守らなければならない。
この古典的な三原則で抑えられるならよいのですが、AIはこんな三原則を定めたとしても、勝手に書き換えたり、抜け道を見つけ出して…
人間とAIとじゃ知能が断然AIが上回っているので、人間の考えなどではどうしようもない。
人間は、知能の差で他の動物たちを従えて繁栄してきましたが、今度は更に賢いAIに支配されるのは目に見えている。
AIには肉体がないから、殴られれば痛いとか、心臓が止まれば死ぬとか、家族が死ねば哀しいなどという血の通った感情を理解できるはずもなく、これから更に頭だけが良くなっていったら、いったい彼らはどんな行動をするのだろうか。必要とあらば、人類を絶滅させることだって簡単にできるだろう。
彼らに「倫理」を教え込めれば未来は開けるかもしれないが、これも不可能かもしれないという。
この地球上で、人類はその「頭脳」だけですべての凶暴な野獣たちをひれ伏させて支配してきました。
そこには、大きな体や、凶暴な牙も必要ありません。「頭脳」だけです。
今、AIたちが手に入れかかっているのが、人類が長い進化の歴史の末に手に入れた「頭脳」をはるかに凌ぐほどの能力です。
大袈裟などではなく、AIがこの地球の大王に君臨してしまう危険性があるのです。
そうなったら、我々人類は、大多数は駆逐され、少数の個体だけ動物園に展示される。
そんな近未来が想像できます。
誰かが、「その時は電源を止めればいい」などといっていたが冗談じゃない。
電源を止めようと考えたその瞬間に、AIはそれを察知しそいつを殺すことだってたやすいことだろう。
ここまで来たら、そう、すでにAIは人類が太古の昔から畏れていた「神」そのものではないだろうか。
60年代末に大ヒットした映画「猿の惑星」など可愛いものだ。
コメント