◆たぶん週１エッセイ◆
映画「M3GAN/ミーガン」
ＡＩの暴走のリスクを効果的に、しかも直感的な恐怖感よりも理性に訴えて見せている
制御プログラムを限界まで追求したがそれでも暴走を避けられなかったということではないのが、真剣な議論をするには残念感がある
ＡＩ少女ロボットの暴走をテーマにしたプチホラー映画「M3GAN/ミーガン」を見てきました。
公開３日目日曜日、新宿ピカデリーシアター３（２８７席）午前１１時の上映は９割くらいの入り。
玩具メーカーのファンキ社に勤める研究者のジェマ（アリソン・ウィリアムズ）は、交通事故で両親を失った９歳の姪ケイディ（バイオレット・マッグロウ）を引き取るが相手をする時間が取れないことに悩み、開発中のＡＩロボット（生成ＡＩ登載人造人間第３モデル：Model 3 Generative Android）をケイディの世話をするロボットに仕様変更して完成させ、略称のM3GANからミーガンと名付け、ケイディの子守役をさせるとともに、社長の前でプレゼンをした。社長はミーガンがケイディの心をつかむ様子に感動し画期的商品として発表することを決意してジェマに準備を命じるが、ケイディはミーガンと離れることに抵抗し、ミーガンはケイディを守ることを優先してジェマの指示に従わないようになり…というお話。
ＡＩが制御できなくなって暴走するリスク/恐怖を、可憐な少女の外見とロボットの力のギャップを効果的に用いながら見せる作品です。恐怖を煽ったり驚かせるような音響や衝撃的な映像を用いることを避け、本能的な恐怖・感覚に訴えるのではなく思考によって恐怖を理解させようとしているため、直感的な恐怖感はそれほどありません。ホラー映画苦手な人も大丈夫だと思います。
この作品は問題のミーガンの暴走を、ミーガンが感情を持ち感情によって行動しているという前提でＡＩに感情を持たせることについて問題提起しているのか、人間に危害を与え人間の指示に従わない行動（ロボット工学３原則の第１原則、第２原則違反）を取った（抑制できなかった）原因をプログラムの欠陥（不十分点）か、運用の過程での不具合発生（壊れた）か、自らプログラムを書き換えるというＡＩの性質・原理上の制御の限界に求めているのか、その点は明確でないように思えます。
ミーガンの逸脱の最初にあたる犬への攻撃ですが、相手が人間ではないのでいわゆるロボット工学３原則の第１原則（人間に危害を与えない）には違反しないのでしょうけれども、犬がケイディを攻撃したわけでもなく、ミーガンは犬に攻撃されても損傷しないのですし、しかもミーガンが攻撃されているときに反撃するのではなくその後に自ら仕掛けて犬を攻撃する必要性はありません（その後のケイディへの攻撃を予期して予防するなら、犬を攻撃するのではなくそのほかの方法、例えばケイディを犬に近づけない、犬が近寄ってきたら威嚇して追い払うなどで十分なはずです）。このような不必要な攻撃性を見せられると、ミーガンのプログラムには、もともと人間等への危害防止のためのプログラム上の考慮（抑制策）が足りなかったのではないかと感じてしまいます。
ミーガンが周囲の人間の精神状態を読んでいることは明示されていますが、ミーガン自身が感情を持っているのか、ミーガンの行動が感情に左右されるのかは、明確にはされていません。しかし、ミーガンの犬への攻撃が、その犬がミーガンを攻撃した後の夜に行われたことは、防衛ではなく、復讐を動機としたものと描かれているように思えます（自己を守ることはロボット工学３原則の第３原則ですし、自己が損傷しないようにしないとケイディを守ることもできなくなるということにはなりますが、チタン合金製の躯体は犬の攻撃にはびくともしないし、いずれにせよ防衛のためなら犬に攻撃されているときに反撃するはず）。
その後のミーガンの行動を逐一論じるのはあまりにネタバレなので避けますが、最初の犬への攻撃だけを見てもすでにＡＩが感情に基づいて行動するとか、必要もなく犬を攻撃するという初期段階のプログラムの不備があると考えられます。
この作品は、ミーガンの十分に人間らしい表情と愛らしい外見の効果もあり、ＡＩの暴走のリスクを感覚的・感情的に感じさせることには成功していると思いますが、ＡＩの暴走のリスクをより現実的で真剣に議論するには、十分に考え抜かれたプログラムで行動を制御したにもかかわらず禁止ルールの衝突矛盾やＡＩのラーニング、プログラム書き換え（自己生成）の結果悩ましい事態に陥ったという描き方をすべきだったのではないでしょうか。その意味で、問題提起としての深刻度・説得性のレベルが不十分に思えました。
（２０２３．６．１１記）
**_**
**_**
