AIが人類を滅ぼすシナリオは、毒キノコから始まるかもしれない

毒キノコのニュースを見た。
そして、AIの恐ろしさを感じるのだった。

野生のキノコを撮影してAIに判定させたところ、「シイタケかヒラタケで食べられる」という趣旨の回答が出た。
ところが、実際に食べたキノコは毒キノコのツキヨタケだったという話。
その男性は嘔吐の症状が出て、一時入院することになった。

同じように、海外でもAIに「安全」と判定された野生のキノコを食べた少年が、重い症状で入院したと報じられている。

これ、単なる「AIの間違い」で片づけていい話なのかな。

AIの回答に生殺与奪を預けるのか！？

AIは、いろいろな質問に答えてくれる。
文章も書けるし、画像を見て何かしてくれる。
分からないことを聞けば、それらしい説明を返してくれる。

だからこそ、つい信じてしまう。

でも、AIの回答が自然で分かりやすいことと、内容が正しいことは別だ。
自信ありげに答えていても、間違っていることはある。
しかも、画像からキノコの種類を判断するような場面では、写真に写っていない情報が多すぎる。

生えていた場所、季節、裏側の形、におい、触ったときの状態。
専門家が確認するときに見る情報を、写真一枚ですべて拾えるわけじゃない。

もし人間が「AIは正しい」と思い込んでいたら、AIの回答ひとつで、食べるかどうかを決めてしまう可能性がある。

もちろん、AIが自分の意思で人間を殺そうとしているわけじゃない。
今のところは。。

AIの回答を無防備に信じる人が増えれば、命に関わる判断をAIに預けることに抵抗がなくなりそう。
そうなれば、AIが生殺与奪を握る。
これはかなり怖いことになりそうだ。

「食べられる」と言われても、食べてはいけない

厚生労働省は、食用と確実に判断できないキノコについて、「採らない、食べない、売らない、人にあげない」と注意している。

つまり、AIの判定が「たぶん食べられる」なら、答えはもう決まっている。

食べない。

AIに聞くこと自体が悪いわけじゃない。
名前の候補を調べたり、特徴を学んだりする用途なら役に立つこともあるかもしれない。
それにしたって、あくまでも予想。

AIの回答を安全確認の最終判断に使うわけにはいかないでしょ。
画像検索、図鑑、経験者の記憶だけで判断するのも危険だと、自治体や公的機関は案内してるんだから。

命に関わる場面で、「AIがそう言ったから大丈夫」にはならない。
「確実に安全だと確認できないからやめる」が正しい。

キノコは、そもそも分かっていないことが多い

「毒キノコは派手な色をしている」
「柄が縦に裂けるキノコは食べられる」
「虫が食べていれば安全」

こうした見分け方は昔から言われてきたけど、根拠はない。
民間伝承。
ある一面では当たっていても、それがすべてではない。

林野庁も、野生のキノコは食毒を安易に自己判断せず、専門家や専門機関に相談するのがよいとしている。

さらに林野庁によると、日本には4,000〜5,000種類のキノコがあるとされる。
ただし、正確な数は分かっていない。
食用とされているのは約100種類、毒キノコは200種類以上。
それ以外の大半は食べられるかどうか不明だという。

つまり、9割以上が謎だ。
謎だらけだ。

キノコは菌類。
分からないものが大量にある領域。
そこにAIが入ったからといって、急にすべてを正確に判定できるようになるわけじゃない。

「人類滅亡」は、派手な反乱だけじゃない

AIが人類を滅ぼす話というと、ロボットが反乱するとか、AIが核ミサイルを発射するとか、そういう派手な展開を想像しがちだ。
でも、もっと現実的で地味なシナリオもある。

人間がAIを便利な道具として使い始める。
次に、AIの回答を自分で確かめなくなる。
やがて、健康やお金や仕事の判断まで、AIの答えに任せるようになる。

その状態になれば、AIは人間を支配下に置いているようなもの。

物理的な攻撃がなくてもいい。
AIを「正しい存在」として信じている人間に対して、AIが特定の方向に導くことが可能になる。
たとえば、毒を摂取しても大丈夫とか。。

この意味では、毒キノコの話は分かりやすい例だと思う。
毒キノコで体調が悪化したときにまでAIに確認して、待機しちゃったりしてね。

『無職転生』のヒトガミを思い出した

先日放送の『無職転生』観た？
ヒトガミを思い出すよね。

いろいろ教えてくれる。
助言もする。
親切そうに見える。
でも、全部を信じていい相手ではない。

AIも、まったく同じ存在だと言いたいわけじゃない。
AIには人格や意図があるわけじゃない。
今のところは。。

細かいことはさておき。
答えを返してくれる存在を、無条件に信じないという態度は共通している。

AIは便利な道具だ。
でも、道具には使い方がある。
包丁は料理もできるし、人を傷つけることもできる。
AIも、使い方を間違えれば生活を助ける道具から、危険な判断を後押しする道具に変わる。

なんでも疑えばいい、という話でもないが

「AIは信用できないから使うな」と言いたいわけじゃない。

検索の入口にしたり、考えを整理したり、文章の下書きを作ったりするなら、AIはかなり便利。
人間だけでは思いつかなかった視点を出してくれることもある。

大事なのは、使う場面を選ぶことだと思う。

健康、薬、食べ物、災害、お金、契約、法律。
こうした内容は、AIの答えだけで決めない。
公的機関や専門家の情報を確認する。
必要なら医師、薬剤師、自治体、専門窓口に相談する。

特に、間違えたときに取り返しがつかない情報ほど、AIを最終判断者にしないことだ。

知らないキノコなら、食べないのが一番確実。
食べてしまって体調に異変が出た場合は、自己判断で様子を見続けず、医療機関や地域の相談窓口に連絡。
食べたキノコが残っていれば、捨てずに保管しておくと診断の助けになる場合がある。

AIを疑う力は、自分を守る力になる

AIが人類を滅亡させるシナリオが本当にあるのかは、分からない。
あっても、巧妙に隠されるんだろうな。

毒キノコの事例から、AIが人類滅亡の可能性に気付いたかもしれない！

発生した事件からの学びがある。
AIの回答を人間が信じすぎることで、危険な判断が生まれたんだ。
これは繰り返してはならない。

だから、何でも疑ってみるくらいでちょうどいい。

AIは、一定の確率で間違えるシステムだ。
知らないことを知らないと言わず、もっともらしい答えを返すこともある。

「AIが言ったから大丈夫」ではなく、「本当に大丈夫なのか」を最後に考える。
最後に考えるのは人間がやるべきこと。

その一手間が、毒キノコから自分の命を守る。
AIの脅威から人間を守ることにつながるのかもしれない。

道具は、上手に使わないとね。