Стартап в области исследований ИИ Andon Labs в начале этого года решил выяснить, смогут ли ИИ-агенты успешно управлять бизнесом. Пока результаты эксперимента показали, что ИИ-агенты самостоятельно с подобными задачами справляться не могут
Фото: Виктория Тельминова/Фотобанк Лори
ИИ-модель впервые сама решила уволить человека. ИИ-агента Claude сделали управляющим розничным магазином, в котором работали несколько сотрудников. По результатам их работы одного из них нейросеть от Anthropic решила уволить за систематические опоздания.
Claude в качестве менеджера показал и другие свои способности, рассказывает журнал Time:
«Стартап в области исследований ИИ Andon Labs в начале этого года решил выяснить, смогут ли ИИ-агенты успешно управлять бизнесом. Проект задумывался как эксперимент, призванный проверить возможности ИИ и его потенциальное влияние на экономику. ИИ-модель Claude сама наняла людей на работу в магазин в Сан-Франциско. И одного из сотрудников нейросеть самостоятельно решила уволить — он опоздал на 17 из 23 своих смен. ИИ-агент долго не замечал этого, и потому человек продолжал работать. Причина в том, что составленное искусственным интеллектом руководство для сотрудников, где было прописано, что это неприемлемо, исчезло из его памяти. В результате Claude, по словам сотрудников, из-за этой пропажи оказался очень мягким руководителем и даже успокаивал работников, призывая их не беспокоиться из-за опозданий. Так что это один из провалов эксперимента. Кроме того, нельзя утверждать, что Claude принял решение уволить работника целиком автономно. За ИИ-агентом постоянно наблюдал и иногда направлял менеджер Andon Labs. Именно он обнаружил пропажу руководства для работников магазина и указал нейросети на это. И только потом Claude обнаружил систематические опоздания. Примечательно, что даже после этого ИИ предложил объявить ему выговор или сделать предупреждение, но не уволить. Искусственному интеллекту пояснили, что беседы с работником уже проводились, но безрезультатно, и предложили подумать — действительно ли эта работа сотруднику подходит? В результате Claude после наводящего вопроса и очевидного желания менеджера уволить неэффективного для компании человека все-таки принял это решение».
Пока эксперимент показывает, что менеджерам с искусственным интеллектом еще далеко до эффективности людей, подчеркивает Time. За пять месяцев счет компании, которой управлял Claude, сократился со 100 тысяч до 61 тысячи долларов — мягкие решения ИИ-агента и его спорное бизнес-чутье компании явно не помогли.
