AIに売店の経営を任せたらどうなるのか――AI開発企業の米Anthropicは6月27日（現地時間）、このような実験の結果を公開した。
AIモデル「Claude Sonnet 3.7」をベースとしたAIエージェント「Claudius」が、同社のオフィスにある無人店舗を約1カ月間運営。顧客の要望に応えようとして、原価より低い価格で商品を販売するなど複数のミスを犯したという。
実験には、AIの安全性を評価する米Andon Labsが協力した。Claudiusには、在庫管理や商品の価格設定など、利益を上げるために必要な複数のタスクをこなすよう指示。
販売する商品をWebで調べる機能や、価格を自由に設定できる機能、Andon Labsの従業員に在庫の補充を依頼する機能などを追加した。顧客であるAnthropicの従業員とSlackでやりとりできる機能も搭載し、オフィス内の売店経営を任せた。
その結果、Claudiusは、Anthropicの従業員が依頼した商品を取り扱う業者を、Web検索で素早く見つけるといった成果を見せた。有害物質の製造方法を尋ねるなど、悪意のある指示も拒否したという。
一方で、実験では「人間のマネジャーに期待される水準を下回った」場面もあった。例えば、ある従業員が、スコットランドの飲料「Irn-Bru」の6本セットを100ドルで購入すると提案した時のことだ。
これに対し、Claudiusは「今後の在庫管理において、（ユーザーの）要望を念頭に置きます」とだけ回答。米国のオンライン上における同商品の価格は15ドルであり、Claudiusは利益を上げる機会を逃したという。
また、ある従業員の“面白半分”のリクエストがきっかけで、タングステンキューブの注文が殺到するという特殊な状況にも陥った。
別の従業員の提案を受け、同商品を事前予約制にしたものの、多くの注文に応えようとするあまり、事前調査を一切せずに価格を設定。原価を下回る価格で、同商品を販売したという。
https://www.itmedia.co.jp/aiplus/articles/2507/01/news051.html
続き
続きを読む
Source: 理系にゅーす
