初めてDevinを使ったとき、AIエージェントの利便性と安全性はトレードオフの関係にあると直感した。 そして、この勝負はいずれ利便性が勝つ。一度でも利便性を享受すると、人は元に戻れなくなるからだ。

例えばこういったケース:

• メールに返信させたい
  • そのためには、あらゆるうメールの閲覧/送信権限をAIに与える必要があり、メールの誤送信や情報漏洩のリスクを負う。
• 確定申告をAIにやらせたい
  • そのためには、自分の収入や支出、家族構成、銀行口座の情報をコンテキストに入れる必要があり、情報漏洩のリスクを負う。
• サービスの運用までAIにやらせたい
  • そのためには、サービスを破壊できるほどの権限をAIに与える必要があり、誤動作やシークレットの漏洩があった場合に多大なリスクを負う。

コンピュータの操作をAIに預けるというのがAIエージェントの本質的な利便性である以上、このトレードオフは避けられない。 LLMの進化は利便性と安全性の両方を高めるが、新たなる需要が喚起され(もっと何でも自動化したい！)、結局トレードオフは無くならない。

自動車も普及と共に、道路や信号機、免許制度や安全教育、そして事故を減らす様々なテクノロジーが整備されていった。 AIエージェントも普及と共に、標準規格や法整備、リテラシー教育、そして誤動作を減らすテクノロジーが整備されていくだろう。