最近、LLMが暴走して世界の危険が大変だぁ！なんてニュースが飛んでくるが、自分は懐疑的だ。これについてつらつらと考えてみた。
（今週の一枚）謎生物像（謎過ぎてビビる）
最近、国の内外を問わず生成AI（この記事ではLLMのことをこう呼ぶことにした）の恐怖がまことしやかにささやかれているが、はっきり言って「何言っているんだ？」と思う。実際、色々弄ってみた実感としてとても面白い物であることは間違いないが、世の中を根本から変えるような技術ではないと思う。
では、なんでありもしない未来像を誇大広告しているのか、今回は生成AIの現状とそれを作る会社に焦点を当てて考えてみた。
生成AIの現状
生成AIが出力する回答には著しい誤りが多い。実際の現場では生データはほとんど使えないし、使うとしてもかなりチェックが必要になる。初期と比べると、それでも、素晴らしい性能を持つようになり、使いようによっては様々な要件の補助をしてくれる便利ツールになりつつある。
特にプログラム作成や事務作業、プレゼンテーションなんかにはかなりの能力を持つ優れモノだ。分野や条件を限定すれば役に立つ。一方で、それ以外の作業にはあまり向かない。生成AI自体に深く思考する能力があるのなら、分野を問わず様々なサービスをすることができるはずだが、それは今のところうまくいっていない。
（↑夢のようなことを言っているが、下界にいる我々には当てはまらない）
なぜ、特定分野に強いのかを問われれば、方々から色々な言い訳が出てくるのだろうが、一言で言えば、「データの有無」がその答えになると思う。
例えば、プログラムの分野では昔からコピペの文化が強く、誰かが書いたコードをみんなで共有する。わからないことがあればコミュニティに質問して結構な割合で有識者から回答があり、その情報がしっかりと保持されて世界に公開されている。生成AIはこの情報を利用してプログラムのコードを書くことができ、その莫大なデータをうまく整理することができればもっといいプログラムを作ることができる。しかし、COBOL（レガシー）のような製造が古くコミュニティが比較的閉じて情報が少ない場合、生成AIは弱い。
この傾向は他分野でも同様で、ノウハウの情報が広く一般公開されていれば生成AIは強い。一方で、情報がない分野では全くと言っていいほど役に立たない。嘘ばかりつく。
つまり、生成AIは自分で色々考えているのではなく、膨大にあるデータをうまく組み合わせて我々にそれらしい答えを見せてくれているのだ。当初言われていた生成AIが独自に考えて、人間が思いつきもしない未知の回答をするというのはあくまで可能性の示唆であって、現実は辞書に毛の生えたような存在になりつつある。
一見知性のあるような振る舞いをするチャットでも、実際はどこかの誰かが言った同じような質問の答えをこちらに返しているだけである。過去にいた誰かの影を我々に見せてくれているので、寂しい人はその影にしゃべりかけて孤独を紛らわしているのかもしれない。
生成AIの進歩と限界
このソフトを作る企業群は生産性、正確さを上げるために大きく２つの事業を行っているようだ。
一つ目はソフト自体の改善であり、より正しい回答を出力するためにデータの場合分けや条件付けを行い、分けられたデータを使って計算をするようにしている。今までのやり方を捨てて一気に別のアプローチから出力傾向の補正をかける場合もあり、かなり熱い分野であると思う。例えば、画像出力ではStable DiffusionモデルとFluxモデル、Qwenモデルでは出てくる画像は一見同じだがその計算方法は全く違う。ざっくりした理屈の違いは文字（文章）のデータセットと画像のデータセットのピクセル位置情報をどう計算するかになる。巨大なデータセット同士を組み合わせると処理しきれないので、分割したり双方向化や単純化したりとデータのやり取りを違えることで効率化の模索を行っている。
また、同様の計算を指向するとしても、その計算をより簡易に行うためのショートカットや既存計算を流用する方法を加えることで、そもそもの計算工数を減らして常に軽量化を試行している。
２つ目は、さらなるデータの蒐集だ。生成AIが登場した当初はインターネット、世界各国のサーバーに無限ともいえるデータがあり、この使いきれない情報をどう処理するかは喫緊の問題であった。しかし、生成AIはその莫大なデータを食いきってもまだ完成には至らず、もっと大量の情報を必要とするようになった。Ｘ社が開発しているGrokはSNSのＸ（旧Twitter）に日々流れる人々の会話を収集したり、Google社では検索の傾向やYoutubeの動態データなどを集めている。しかし、それでもデータが足りず、著作権問題によって無料で使えたはずのネットのデータ利用が日々難しくなってきている。
彼らが去年から盛んに行うようになったのが、「デジタルデータを作る」作業だ。例として、著作権除けとして当初行っていた現物の書籍をPDFファイル化・デジタルデータ化を加速させた。余波で日本の古本在庫が一気に減少している。発展途上国の農民にカメラを付けさせその作業風景を営々と録画し、そのデータをもって農業と手作業をトレースしようとしている。
（↑では綺麗事を言っているが、インド農業は気候変動で危機に瀕しており、とても小手先でどうにかできる状況ではない。）
「生成AIはとても賢い」という視点で見ると、なぜこんなことをする必要があるのかわからないが、「生成AIはあまり賢くない」という視点で見れば、はっきり理解できる。ネットに転がっているデータは真偽不明なものが多数あり、研究情報はむしろ誤った情報の方が多い。これは最先端になるほど未知にアプローチするために様々な可能性を模索しているのだから当たり前だ。しかし、生成AIとしては分別できない情報はむしろ意味がなく、組み合わせ計算の邪魔になる。より正しい情報を得ることで誤りのない出力に繋げたい。他人の情報には金がかかるし制限が増してきた。無料の情報は個人の資質や感情が関わり正確性が乏しい。そこでデータ利用のソフトを作っている会社自体が今度はデータを作り出したのだ。
騒ぎの原因
ごちゃごちゃ書いてきたが、現状認識ができれば、なぜ生成AI危険論が急激に出てきたのかわかる。要は、今までの様に生成AI開発がうまくいかないことがはっきりわかり、それをごまかして今までの様に金儲けしたい連中がたくさんいるからだ。
非常に面白いのが、作ってる側が「危険だぁ」と言っている点だ。他の業態の商品なら問題が発生してその使用者側が怒ったりするはずである。しかし、生成AIの場合、使っている側は前評判ほどではないので、むしろもっと使えるようにしてほしいと思っている人がたくさんいるだろう。
最近、一番ヒットした報道はJacob CoxonというAI開発者がXにポストした「AIが人類を滅ぼす～」とそれに関連したものだ。会社の中で危機が共有されているのに、誰もそれを問題視しないので退社してそれを伝えたということだ。でも、ちゃんと読むと、会話のとっかかりにそういう話題があった程度で、コミュ障がそれを真に受けて騒いでるようにしか見えない。また、彼のキャリアも微妙だし、これからの活動はAIを監視してその危険性を啓蒙するということだ。正直に言って信用性の低いデータである。
いままで、盛んに将来性を謳い、世界の変革だの新しい社会像なんかを喧伝して投資を促してきたけど出てきたものは中途半端なもので、それを使いこなすためには生成AIを制御する生成AI（AIエージェント）が必要だなんていわれれば、みんな化かされていることに薄々感づいてきたから、企業側が時間稼ぎネタを出したのかもしれない。
生成AIとその製造企業は何を狙うか
この先、どうなるかなぁと興味津々だ。いくつかこの巨大投資の顛末を鋭く予想している人がいるけれど、パランティアのCEO、アレックス・カープ（Alex Karp）の言説は性格が悪すぎて面白い。
（面白おかしく意訳しているけど、結構正確に訳していて実際面白い動画↑）
彼の言説をまとめてみる。クローズドモデルと称して将来のデータ利用について不透明な契約を結び、生成AI製造企業は生成AIを使用する企業からデータを吸い上げ自社AIに組み込んで能力向上を図っている。本質的に最も重要なものは生成AIではなく各企業の持つノウハウなどの独自データであり、それを奪われれば企業の価値がなくなる。また、生成AIによって起こった事故や問題に製造企業が責任を持たない。この無責任さが今後のトピックとなるため、製造企業群は責任逃れの様々なことをするだろう。それが国営化だ。国家にその責任をすべて押し付けて、自分たちは利益とデータだけを吸い上げて逃げようとしている。そんなことは許されない。だから、オレの会社のサービスを買え…みたいな感じだ。
確かに彼の言うことはもっともだ。車のエアバックを作っている会社でリコールが起これば裁判で莫大な損害賠償を課されて潰れそうになるし、カニラーメンで食中毒が起これば倒産だ。でも、生成AIで野球の監督が逮捕されてもChatGTPを作った企業は文句を言われない。
生成AI製造企業の責任逃れをしようとする傾向は、有料サービスで顕在化していて突然サービスが使えなくなるなんて最近よく聞くようになった。
上の動画ではいくつかの可能性（不正利用と専門知識の免責）について言及しているが、これで業務が飛ぶならいくら便利でも使い物にならない。BANの理由を明示するべきなのにそれをしないところを見ると、OpenAI社の不利益になるなら契約を切るということを明示している。
この例で、カープの言うような縛りをつけるなら、「契約を破棄するならその理由をしっかり明示しないといけない」と言う法律を作らないといけないだろう。こういった使用者が圧倒的に不利な契約を結んでいる状況は確かに製造企業が支配的な地位となり従属的な関係にある個人やその他法人はこれから奴隷にされる証左ともいえる。
彼の言説は極端だけど、ヨーロッパでは生成AI規制法ができ、その法規制が製造者責任に及ぶ方向は確かに考えられるので、わが国でもその流れに乗って我々をしっかり保護してほしい。
このことから、製造企業の高収益化は難しくなるので、使用トークンの値上げや利用範囲の限定が起こり、淘汰が起こることは確実なんだろう。その上で彼らは免責と金儲けのためにさらなる「話題」の提供を行うことは明らかなので、それに乗っからないでうまく使い倒して生活を豊かにする方法を考えることが個人にとって重要な要素なのだと思う。
まとめ
・生成AIは便利だけど結構ポンコツ
・自分のデータが価値を持つのでしっかり守れ
・生成AIの危険性よりもそれを作る企業がヤバイ
・クソネタがこれからいっぱい出るけど騙されるな
・重課金しないようにうまく使え
（その２に続く）
☆エロ同人CG販売中
