ジェイソン・ステイサム化

おはようございますっ!!

イッタですっ!!!

朝からこんなニュースが目に入ってきましたよ😲

試験のセキュリティを解く為に、解き方を外部に探しにいった可愛いやつなのかもしれませんが、

これからこういう事件が多発していきそうですよね😲

AIには「前提」みたいなものが無いので、細かく人間が指示出さないと暴走しそうな、そんな感じ。

人間の子供も、躊躇無く虫を潰したりしちゃいますが、

その状態と似たような感じかな・・？

昔、長女に初めて、「そこのアリつかまえてみて！」

と言ったら、アリを力いっぱい摘まんで、「つかまえたよ！！」って。

悪意があったわけじゃなくて、

父に言われた、「つかまえる」という事をしただけ。

なんかそんな雰囲気に似てるな～って感じます。

というここまでをAIに打ち込んで、改善策あるのか聞いてみたところ・・・

↓

子供と違うのは学習の仕方ですね。娘さんは一回の経験と「そっと持つんだよ」の一言で学べるけど、AIは訓練段階でその「暗黙の前提」を大量に教え込む必要がある。私（Claude）を作ってるAnthropicも含めて、AI各社が「アライメント」と呼んで一番力を入れてるのがまさにこの部分です。今回OpenAIが途中段階でも調査結果を公表したのは、防御側に事態を認識してもらうためとのことなので、「アリを潰しちゃった事例」を業界で共有して学習材料にしてる、とも言えますね。

みんなで正しく、いっぱい学習させないと人間詰みますね。😂

😂とか使っちゃってますが、冗談でも何でも無く、

人型ロボットみたいなものを１人１台持つ時代が来たとして、

「◯◯君の事が嫌いで、会いたくない」

みたいな事をロボットに相談した時に、さっきの話みたいに暴走して、

トランスポーターのジェイソン・ステイサムばりの目つきで無言で部屋を出ていって◯◯君を排除しに行く…みたいな事とか、起きそうですからね😲

分かりやすくロボットに置き換えましたが、PC上のAIだけでもそんな事がどんどん起こり始める気がします。

今年に入ってから、人間がAIを使用した大手企業への不正アクセスの多さが際立ってきてるので、リーマン・ショック級の事が起きるのも近いんじゃないかと勝手に思ってます☹️