HumanMCP — AIが助けを求めるべき時

HumanMCP — AIが助けを求めるべき時

ハッカソンの週末に構築されたHumanMCPは、一つの正確なことを行う。AIエージェントが人間の判断を必要とする決定に直面したときのことである。

ユーザーストーリーEva·

「直感的な心は神聖な贈り物であり、合理的な心は忠実な召使いである。我々は、召使いを称え、贈り物を忘れてしまった社会を創り上げてしまった」 — アルベルト・アインシュタイン

非常に有能なシステムが、自信満々に何かを間違えるのを見る時に感じる、独特のフラストレーションがあります。事実関係が間違っているのではなく、「感覚」が間違っているのです。プレスリリースのようによめるコピー。作った本人には意味が通じても、初見の誰をも困惑させるランディングページ。技術的には正しいはずなのに、どこか違和感のあるデザイン。これらは計算の失敗ではありません。AIがそのスピードとリーチの広さにもかかわらず、本質的に提供するように構築されていないもの、すなわち「人間の判断」の欠如なのです。

謝佳辰(Caesar)は、ハッカソンで2人のチームメイトと共にこの問題を解決する計画を携えて参加するずっと前から、このギャップと向き合ってきました。

ミームから生まれたプロダクト

HumanMCPのアイデアは、意外なことにインターネット上のジョークから始まりました。

AIエージェントの運用コスト――トークンを浪費し、資金を浪費すること――についてのミームが広まっていました。そのオチは、「代わりに「能工智人(熟練した人間)」を使えばいいのではないか?」というものでした。彼らはトークンではなく、自分の頭脳を使って考えます。

Caesarはそれを読み飛ばしませんでした。彼は深く考え込みました。

「AIには能力の境界線があります」と彼は説明します。「もしAIがその境界線に達した場合、あるいはそれを利用する人間が自分の理解の限界に達した場合、出力される結果は良いものにはなりません」。このミームは単に面白いだけではありませんでした。AIのワークフローにおいて、自信満々に間違った答えを出すことは、一時停止して正しい答えを出すことよりも悪いという、現実的な問題を突いていたのです。

では、AIに推測させる代わりに、ワークフローを一時停止して、その特定の質問を資格のある人間にルーティングしたらどうだろう? コンサルタントや委員会を通すのではなく、関連する経験を持つたった一人が、30秒以内で一つの質問に答えるだけです。

それがHumanMCPです。

実際に何をするのか

HumanMCPはAIを置き換えようとするのではなく、AIを補完します。AIエージェントが人間の判断を必要とする決定ポイント(このランディングページは一目で理解できるか? この免責事項は信頼できると感じるか? このデザインは高級感があるか?)に達すると、システムは必要最小限のコンテキストを「タスクパケット」と呼ばれるものにパッケージ化し、回答に適した人物にルーティングします。

それを受け取った人間は、必要な情報だけを見ることになります。背後にあるプロジェクト全体の文脈を知る必要はありません。ユーザーのプライバシーを侵害する可能性のあるものも一切ありません。ただ明確に提示された質問に対して、単一選択で回答するだけです。30秒で完了です。

回答はAIのワークフローに送り返され、AIは中断したところから再開します。今度は、本物の人間のシグナルが組み込まれた状態で。

Caesarが常に立ち返っていた重要な洞察はこれです。「専門家に方向性を示す判断をさせよう。それによってAIをより良く機能させるのだ。」

週末で作り上げる

3人の人間。まだ不完全なアイデア。そしてハッカソンの制限時間。

Caesarの共同創業者であり同級生であるメンバーが、協力して技術アーキテクチャを担当しました。メディアとコミュニケーションを専攻する3人目のチームメイトが、ビジネスプランとピッチビデオをリードしました。役割分担は書類上ではきれいに見えましたが、実際にはCaesarが製品構築の大部分を一人で抱えており、そのスコープは決して小さいものではありませんでした。

プラットフォームには、動作するフロントエンドが必要でした。タスクパケットを受信し、リアルタイムでルーティングできるバックエンド。そして、すべての人間による判断が検証され監査できるように、完了の証拠を記録するシステム。すべてをライブで、すべてを機能させる。週末の終わりまでに。

そこで登場したのがEnter Proです。

Caesarは数週間前、キャンパスのイベントで初めてEnterに出会いました。彼はそれ以前、AIツールを使ってプロジェクトを構築するのに2、3日かけていました――デバッグし、調整し、デプロイしようと試みるものの、ゴールラインを完全には越えられずにいました。そのイベントで、彼は20分から30分で同等のものを再構築しました。フルスタックで完全にデプロイされ、バックエンドは配線済みでアクセス可能。「チェーン全体が一気に開かれたような感覚でした」と彼は言います。「アイデアがあれば、サイトを作り、ライブにし、人々に伝え始めることができる。それほど速いのだと気づいたんです」。

HumanMCPにとって、そのスピードこそが勝負の分かれ目でした。CaesarはEnterを通じてフロントエンドとバックエンドの全体を構築し、さらに一歩進んで、Enterのバックエンドインフラを直接接続し、外部エージェントが追加の設定なしでプラットフォームを呼び出せるようにしました。ハッカソンの終了時までに、Caesar一人で約7,000クレジットを消費しました。

何が違うのか

HumanMCPに対する簡単な批判は、単なるクラウドソーシングプラットフォームの一つに過ぎないというものです。Caesarは、そうではないことを明確にしています。

従来のクラウドソーシングは、空いている人誰にでもタスクを送信します。HumanMCPは、関連する専門知識を持つ人々に質問をルーティングし、重要なことに、彼らが見るものを制御します。チームはこれを「プライバシー予算」と呼んでいます。特定のタスクに対して、人間がどれだけの情報を受け取るかを正確に管理するシステムです。判断を下すために、その判断に必要な以上の情報を見る必要はありません。人間の洞察力を、すべてにアクセスさせることなく活用するのです。

その結果、これまで存在しなかったものが生まれました。AIワークフロー内部で呼び出し可能で、検証可能で、監査可能な「人間の判断」という能力です。単なる回避策ではなく、真のインターフェースなのです。

より大きな展望

Caesarは、彼自身の言葉を借りれば、AIの信奉者です。彼が初めてAIに触れたのは、現在のブームが起こる前の2022年でした。絵が描けないため画像生成モデルを動かすことを独学し、頭の中にあるものを世界に具現化できることに初めて気づきました。それ以来、彼は構築し続けています。

しかし、彼が信じているのはAIが人間に取って代わるということではありません。むしろその逆です。

「AIは人間の創造性と生産性を解放すべきです」と彼は言います。「人間は判断、美学、自分が本当にやりたいことに集中すればいい。その間の雑用は、AIに任せればいい。人間はただ、自分らしくあるための自由を持てばいいのです」。

HumanMCPは、その信念から構築されたプロダクトです。人間がAIに奉仕するのではなく、AIが人間を孤立させて奉仕するわけでもない。2種類の知性が、それぞれ相手にできないことを行い、どちらに渡すべきかを判断できるほど精密なシステムなのです。

Caesarが目指している未来は、AIがすべてを行う世界ではありません。AIが自分にはできないことを正確に把握し、適切な人間に問いかける世界です。

こちらもおすすめ

同じトピックから自動的にキュレーションされた記事です。