halcyon / 読みもの

ゆっくりしたエージェントの効用

6分で読了 philosophy design

— halcyon team

速いエージェントは、賢いエージェントではない。落ち着きのないエージェントである。

halcyonは、業界の通念とはずれた前提でつくった。長い仕事のうち本当に重要なのは、ターンとターンのあいだに起こる部分だ。返ってきたものを読む間。違うと判断するための散歩。読み返して、これは自分の言いたいことではないと気づいて消す一文。そういう瞬間を急かすエージェントは、時間を節約してはいない。仕事をしていた唯一の機能に、税をかけているだけだ。

この語彙は、チャット欄より古い。1995年、Xerox PARCのMark WeiserとJohn Seely Brownはカーム・テクノロジーを「私たちの注意の中心と周辺の両方に関与し、その二つのあいだを行き来する」ものとして記述した。彼らの議論は情報への反対ではなかった。情報を要求することへの反対だった。穏やかなシステムは強要せず、知らせる。利用者が多くのことに同時に注意を向け、必要なときに必要なものだけが前景に立ち上がり、それ以外は静かでいられるようにする。Wikipediaが整理する三つの原則も、結局はひとつの偏りに集約される。周辺は欠陥ではなく、機能である。

この三年間に出荷されたエージェントの大半は、その逆をやってきた。流れ続けるトークン。自動補完。「まだいますか？」のプロンプト。注視を要求する思考のひとり言。これらは知性の徴ではない。エンゲージメントを注意と取り違え、注意を価値と取り違えたプロダクト・チームの徴である。

その取り違えのコストは測定できる。Gloria Markらカリフォルニア大学アーバイン校のグループは、二十年間ストップウォッチを持って知識労働者を追いかけてきた。The Cost of Interrupted Work（CHI 2008）の中心的な発見は、ひとつの中断のあと、もとの仕事の同じ深さに戻るまで平均で二十三分十五秒かかる、というものだ。中断された労働者は遅くなるのではなく、約七%速くなる。しかしその速さは、ストレスと苛立ち、そして重く感じられる作業負荷で支払われる。生産性の上昇は対処機構である。コストは身体が負う。

Sophie Leroyはその認知的形状に名前をつけた。「Why is it so hard to do my work?」（Organizational Behavior and Human Decision Processes, 2009）は注意の残滓（attention residue）——次のタスクへ移っても前のタスクに残り続ける心の一部——を記述した。残滓は、前のタスクが未完で放置されたときに濃くなる。明確化を求めて鳴り続けるチャットは、毎ターン残滓を残す。システムが突かずに置いておいてくれる下書きは、残さない。

AIエージェントへの含意は微妙ではない。割り込んでくるエージェントは、既存の文献に照らせば、生産性のアンチパターンである。ナッジのひとつひとつが、エージェントが入金するはずの口座からの引き出しだ。自動補完のひとつひとつが、量産された残滓だ。業界が誇る「反応のよさ」は、認知科学の言葉でいえば、仕事の質を落としているそのものである。

ゆっくりしたエージェントは、デフォルトを反転させる。ブリーフを受け取り、いなくなる。思考を実況しない。確認のためのチャットを誘わない。戻ってくるときは、読むものを携えて戻る——下書き、計画、スクリプト——そして、待つ。利用者とエージェントの対話は、チャット・プロトコルの速度ではなく、仕事の速度で進む。一日の大半、エージェントは周辺にいる。利用者が望めば、中心に来る。三十年前のWeiserの記述が、いまもそのまま当てはまる。

これはロマンティックな趣味ではない。工学的な主張である。エージェントの価値が、その出力に対して利用者が持ち込める思考の質で測られるなら、エージェントの第一の仕事はその思考を守ることだ。それ以外のすべて——モデル、ツール、コンテキスト・ウィンドウ——は、答えが届いたときに利用者がまだ自分の声を聞けるか、という一点の下流にある。

halcyonがこの部屋でいちばん賢いエージェントだとは約束しない。いちばん静かだ、とは言える。上の証拠に照らせば、それは同じ主張である。

出典