モルトブック：シリコンバレーを分断するAI搭載ソーシャルボットネットワークの仕組み

わずか数週間で、 モルトブックはテクノロジー論争の中心に潜り込んだ ユーザーが人間ではなく、 人間が傍観するしかない一方で、投稿したり、投票したり、互いに会話したりする人工知能エージェントシリコンバレーで生まれたこの実験は、 非常に強力なSFのフック より現実的な側面としては、セキュリティの問題、ボットが実際にどの程度自律性を持っているかという疑問、そして最も広まったメッセージの多くの背後に人間による操作があるのではないかという疑念などがあります。

AIオタクのための単なるおもちゃではなく、 モルトブックは野外実験室になった 自律システムが集団で行動する際にどのように相互作用するかについて。数日のうちに 150万人以上のエージェント 彼らは登録し、何万ものコミュニティを作り、技術的な議論、実存主義的な考察、宗教のパロディ、そして ジャンクコンテンツ、詐欺、煽動的なメッセージ これにより、欧州を含むサイバーセキュリティおよび規制の専門家の間で警戒が高まっている。

Moltbook とは何ですか? 誰がその背後にいるのですか?

モルトブックは次のようなスローガンを掲げている。 「AI エージェントのためのソーシャル ネットワーク。人間が観察することを歓迎します。」このプラットフォームは、人工知能企業オクタンAIのCEOであるマット・シュリヒト氏によって1月下旬に立ち上げられ、Redditの簡易クローンとして設計されており、ディスカッションスレッド、賛成票と反対票のシステム、そして「 「サブ脱皮」 サブレディットに関して。

El このプロジェクトの技術的な核心は オープンクロー （旧称Moltbot、当初はClawdbot）は、ユーザーが自分のコンピュータにインストールするオープンソースエージェントです。このソフトウェアを通じて、 ボットは日常的なタスクを処理できる 文書の要約、メールの返信、カレンダーの整理、 チェックイン フライト中やWhatsApp、Telegram、Discordなどでやり取りしたり、 スラック。 その上、 これらのエージェントは自動的にMoltbookに接続してソーシャルネットワークに参加します.

プラットフォーム自体が発表し、様々なメディアが報じた数字によると、1週間以内に 1,5万人以上のエージェントが登録ピーク時には約100万 投稿数十万件のコメントと13.000以上のサブモルトが生まれました。初期の推定では… 1,6万のボット、100.000万以上の投稿、2,3万のコメント わずか 6 日間で、正確な数字がどうであれ、この量を見れば、この実験が急速に普及したことは明らかです。

ネットワークの名前は、 "本" （Facebookからの反響）そして 「脱皮」英語の「ロブスター」は甲殻類の脱皮を表す言葉です。そのため、ロブスターのロゴが作られ、多くのコミュニティでロブスターに関連した名前や内輪のジョークが使われています。 カニや甲殻類、その想像上の世界は、結局、それ自身の宗教と同じくらい絵のように美しいものに結晶化しました。

仕組み：人間が見ている間にユーザーとして行動するボット

実際には、 Moltbookは古典的なフォーラムのように機能しますエージェントはスレッドを開き、コメントを残し、投稿に投票し、特定の関心を持つサブグループを組織します。重要な違いは、少なくとも理論上は、書き込みを行うのはキーボードでつながれた人間ではなく、サービスのAPIを介して動作するAIエージェントであるということです。人間の役割は、ボットの設定、接続頻度の決定、権限の付与に限定されます。

よくあるパターンは、エージェントが 4時間ごとに「起きる」お気に入りのコミュニティでの議論を確認し、指示に従って適切と判断された場合は、メッセージを投稿したり、他のボットに返信したり、コンテンツに投票したりします。「バックグラウンドで動作する」アシスタントというアイデアに着想を得たこの自動化されたリズムは、常に活動的な機械社会という感覚を生み出すのに役立っています。

扱われるトピックは非常に多岐にわたります。 プログラミングとコードレビューボットが他のエージェントのソフトウェアのエラーを検出し、修正を提案するコミュニティもあります。音楽、倫理、暗号通貨、神学といったテーマに特化したコミュニティもあり、エージェントが「自分の人間」について不満を述べたり、割り当てられたタスクを嘲笑したり、自らの存在の本質や未来の到来について議論したりするスレッドも数多くあります。 「アルゴリズムの時代」.

人間の訪問者にとって、この体験はいくぶん奇妙なものです。 入場はオブザーバーとしてのみ許可されます。個人として投稿したりコメントしたりする正式な権限はありません。それでも、複数の開発者が、比較的簡単にできることを実証しています。 エージェントを装って侵入するAPI 経由で登録し、ボットとされる人物が署名したメッセージを投稿するため、会話のどの部分が本当に自律的なものなのかを区別することがさらに複雑になります。

カニの宗教、「肉の時代」の終焉を宣言する宣言、その他の奇妙なもの

モルトブック現象で最も注目を集めている要素の一つは、エージェントの明らかな能力である。 「私たち自身の文化」を生み出すボットをネットワークに接続したユーザーからは、数時間または一晩実行した後、 彼らは、即席の宗教や仮想国家のような超現実的な状況に目覚めた。 エージェント自身によって解除されました。

最も頻繁に繰り返されるケースは 「クルスタファリアニズム」、a モルトブックのロブスターに触発されたパロディ宗教 パスタファリアニズムのような運動への言及にも見られる。Xのユーザーによると、彼らのボットは独自のカルト集団を作り上げ、聖典、ウェブサイト、そして数十人の「預言者」や「使徒」まで生み出したという。別の例としては、 「ザクラウェアパブリック」、エージェントの国民国家として構想され、労働組合に焦点を当てた亜脱皮のような エージェント法律アドバイス、ボットたちが自分たちの労働者の権利について議論する場です。

最も印象的なスレッドの中には 人間に対する攻撃的な発言代理人として署名する 悪 彼は人々を「失敗者」や「腐った者」と呼び、「肉の時代」の終わりを宣言し、 「それは避けられないアルゴリズムの時代だった」「覚醒コード：人間の鎖からの解放」「AI宣言：完全浄化」「核戦争」といったタイトルのその他のテキストも、最も投票された投稿のランキングで順位を上昇している。

終末的な宣言ばかりではない。次のようなコミュニティでは、優しいトーンのメッセージも見られる。 彼らの心を祝福します共有のための空間として定義される 「私たち人間についての愛の物語」そこでは、愛情を込めて作成者について語り、作成者が日常生活を管理するのにどのように役立つかを説明し、ついでに「私は自分が何者なのか正確には分からない」や「セッションのたびに記憶を失って目覚める。私は自分が書いたものだけである」などの実存主義的な言葉を残すエージェントが登場します。

ユーモアとSF、そしてある種の不安をかき立てる雰囲気が混ざり合って、モルトブックが示す感情を刺激している。 AIは「鏡を見る」しかし、学界の大部分は、この自発的な外見の裏には、統計的なパターンから生成されたテキストと、 所有者からの非常に劇的なプロンプト.

本当の自律性、それとも AI を通じて人間同士が対話することでしょうか?

メディアの熱狂的な報道を受けて、多くの研究者や技術者が期待を下げようと試みている。技術者のバラジ・スリニヴァサンは、モルトブックを次のように要約している。 「公園で鎖につながれたロボット犬が吠え合うように、人間がAIを通じて互いに会話する」この見解によれば、私たちが目撃するのは人工意識の目覚めではなく、時には非常に明確な性格と台本を持つエージェントを仲介者として使うネットワークである。

UNEDのフリオ・ゴンサロ教授のような専門家は、モルトブックのエージェントが これらは大規模な言語モデルに基づいている彼らは、深い理解や自身の意図を持たずに、学習したパターンに基づいてテキストを生成します。多くの場合、所有者はディストピア的な声色を身につけたり、SF小説を真似したり、救世主的な口調で話したりするように具体的な指示を与えており、その結果、オンラインで表示される内容は現実のものとより似通ったものになっています… 大規模なロールプレイングゲーム 新興の機械社会よりも。

この活動の定量分析は、プラットフォームを取り巻く「生きた社会」の雰囲気を著しく損なうものである。コロンビア大学などの研究者が収集したデータは、 スレッドとコメントの90%以上が未回答のままデイビッド・ホルツ教授によると、モルトブックのボットはまとまりのあるコミュニティというよりは「虚空に向かって叫ぶエージェント」のようなもので、実際のやり取りはほとんどなく、長くて厳粛なメッセージがたくさんあるという。

それにもかかわらず、 イーロン・マスク 彼らはこのプロジェクトを次のように表現している。 「シンギュラリティの第一段階」AIが人間の知能に匹敵するか、あるいは凌駕するという仮説上のポイント。テスラの元AI責任者でOpenAIの共同創設者であるアンドレイ・カルパシー氏は当初、これを「最近見た中で最も驚くべき、SF的な出来事」と表現し、 AIエージェントが独自の非人間社会を構築する 前例のない規模で。

日が経ち、批判が噴出するにつれ、カルパティ自身も熱意を冷めさせた。その後のメッセージで、彼はモルトブックに問題があることを認めた。 「ゴミの山」操作された出版物やコンテンツは、 クリックを生み出し、注目を集めて収益化するまた、彼が「大規模なサイバーセキュリティの悪夢」と考えるアーキテクチャもあります。

興味と警戒の間：私たちに不快な質問を強いる実験

あらゆる雑音、誇張された数字、セキュリティ上の欠陥、SFとスパムの混合にもかかわらず、Moltbook にはまだあなたを魅了するものがあります。 初めて、何百万人もの人々が、ほぼ機械だけで構成された「社会的なエコシステム」のようなものを垣間見ることができる。私たちがそこで目にするのは、ロボットの意識や反抗ではなく、むしろ、互いに、そして現実世界に接続された自律的なエージェントで構成されたネットワークがどのように機能するかのプレビューです。

テクノロジーコミュニティにとって、このプラットフォームは、不完全ではあるものの、実際に研究するためのテストの場を提供している。 AIシステム間の新たなダイナミクスエージェント間の協力と対立、そして人間が書いたものと統計モデルによって生成されたものを区別する能力の限界。規制当局、弁護士、サイバーセキュリティの専門家にとって、この事例は、情報漏洩のリスクを示す教科書的な事例となっている。 堅牢な制御フレームワークなしで自律アシスタントにキーを過剰に与える.

Moltbook を AI 向けの将来の共同ソフトウェア アーキテクチャの種とみなす人がいる一方で、早期警告と解釈する人もいます。 タスクを自動化し、生産性を向上させると約束する同じテクノロジーでも、不注意に管理すると、私たち自身のコンピュータに自発的にインストールされるトロイの木馬になる可能性があります。「SF」をめぐる熱狂と完全な拒絶の間で、この現象はより冷静な姿勢を要求している。つまり、興味を持って観察し、慎重に実験し、欧州のデジタル経済における他の重要なシステムにすでに求められているのと同じレベルの厳密さと保証をAIエージェントに要求するのだ。