違う見方

新しい時代の始まり。複数の視点を持つことで、情報過多でややこしい現代をシンプルに捉えるための備忘録的ブログ。考え方は常に変化します。

生成AIの限界

誰もが手っ取り早く正解を知りたいと思っている。

 

そうすることが効率的だなんて思い込んでいるからだ。

 

思い込んでいると書いたが、思い込まされていると言った方が相応しいかも。

 

そんな思いを加速させてるのが生成AIだ。

 

私も生成AIは重宝してるしそれなりに評価してる、賢いつもりの学歴だけ立派な人よりも遥かに役にたつと。

 

しかし、最近あることをテーマに生成AIと頻繁にやり取りして、効率的に手っ取り早く正解を得ることは必ずしも正しい行動ではないなと感じた。

 

正しい行動ではないと書いたが、不都合が起きたわけではなく、強いて言うと期待通りではなくガッカリしたくらいで実害は全くなかった。

 

 

きっかけとなったあるテーマについては触れない、それだけに限らないと思うから。

 

結論的に言うと、生成AIの答え(=最も効率的に得られる答え)は大きく二種類あると感じる、一つは世間に伝わる集合知を上手にまとめたもの、もう一つは理論や理屈を踏まえた上で設計や企画に携わる専門家視点の答えのようなもの。

 

いずれであっても答えとしては非の打ち所は少ないので満足感は高いが、一つだけ話半分で受け取った方が賢明だと思わされることがあった。

 

得た答えを活かしたい具体的な現場や環境がある場合だ。

 

昔から機械や電気に関係した分野では、現場で発生したトラブルや不具合に対して、メーカーの設計者や開発者が使い方に問題があった以外にそんなことが起こるわけないと回答することはよくあったが、実際にはその設計では条件が揃うとそのトラブルや不具合は起こるということが後に明らかになったり、こっそりと予告なく仕様を変更することに繋がっていた。

 

リコールなんかを発生させた設計者や開発者はクビになるという話を聞いたこともある。

 

完成品が真に完成するのは、現場で理屈に合わない不具合を起こさないことが確認されてからだが、生成AIの答えはこの逆パターンを出す場合があるし、多分かなり多いと思う。

 

つまり、机上の理屈では全く正しいが実際の現場ではそれでは役に立たないという乖離が起きることを生成AIは見抜けないのだ。

 

そうなる理由はシンプルで、結局やってることはネット検索で、そのレベルが超ハイレベルで表現が巧みなだけなので、現場に精通した達人の経験や知恵は拾えないからだし、現場に精通した達人ですらその経験から得られた知恵を言語化するのは簡単ではないからだ。

 

つまり、ネット上には肝心要の情報は多分ない、そう思うくらいがちょうど良いし、もし自分の要求が独特で特殊なものであるならば、叩き台となる参考意見を見つける程度以上には期待しないことだ。

 

 

こうやって書きながら、最初は「世の中上手くいかないな」というガッカリな気持ちが強かったのだが、その気持ちが徐々に「やっぱりそうだよな」という気持ちに変化してきた。

 

要求が独特ならば、頼りは自分の試行錯誤だけなのだ。