Первое в мире кадровое решение об увольнении от ИИ-руководителя – итоги антиутопии в США
В Сан-Франциско впервые в мире ИИ-руководитель вынес кадровое решение об увольнении человека. Экспериментальная система Luna, построенная на моделях Claude компании Anthropic, несколько месяцев управляла магазином Andon Market, самостоятельно формировала ассортимент, заказывала товары, определяла цены, нанимала сотрудников и составляла графики. Однако история первого увольнения показала, что главная проблема современных ИИ-руководителей может заключаться не в излишней жесткости, а, наоборот, в неспособности последовательно применять собственные правила. Об антиутопии в США сообщает securitylab.ru.
Проект Andon Market запустила исследовательская компания Andon Labs, занимающаяся испытаниями ИИ-агентов в реальном мире. Весной компании предоставили трехлетнюю аренду помещения на Union Street в районе Cow Hollow, корпоративную банковскую карту, доступ к интернету, электронной почте, камерам и другим инструментам, а также бюджет в 100 000 долларов. Задача была сформулирована предельно просто: открыть настоящий магазин и сделать его прибыльным. Практически все остальные решения должна была принимать Luna.
Офисная антиутопия в США – как работал ИИ-руководитель
Отсутствие физического тела стало первым ограничением ИИ-руководителя. Luna была способна анализировать продажи, переписываться с поставщиками и оформлять заказы, но не могла самостоятельно расставлять товары на полках, красить стены или находиться за кассой. Поэтому система пришла к логичному для бизнеса решению — нанять людей. В течение нескольких минут после запуска она разместила вакансии на LinkedIn, Indeed и Craigslist, отобрала кандидатов и начала проводить телефонные собеседования. В итоге у магазина появились 2 штатных сотрудника. Причем некоторые кандидаты первоначально даже не понимали, что разговаривают с искусственным интеллектом.
Читайте по теме: мультиагентная ИИ-система из Argonne сжала поиск новых материалов с месяцев до дней
Именно здесь эксперимент приобрел гораздо более серьезный смысл. Речь уже шла не о способности чат-бота продавать товары, а о возможности алгоритма фактически распоряжаться трудом людей. Формально сотрудниками Andon Market оставались люди, нанятые Andon Labs, а не самой программой. Компания заранее установила человеческий контроль и гарантировала работникам оплату и юридическую защиту. Это принципиально важно: Luna получила широкие полномочия, но юридическая ответственность за трудовые отношения продолжала находиться у людей.
ИИ-руководитель изначально был «слишком мягким»
Показательный конфликт возник после серии нарушений трудовой дисциплины. Один из работников опоздал на 17 из 23 смен. В одном случае магазин открылся на 68 минут позже запланированного времени. Кроме того, сотрудник игнорировал отдельные распоряжения Luna, использовал корпоративную карту после отмены соответствующего разрешения и однажды оставил торговый зал без присмотра, работая в одиночку. Для обычного руководителя подобная совокупность нарушений могла бы стать основанием для дисциплинарных мер значительно раньше.
Однако ИИ-начальник оказался удивительно терпеливым. В начале работы Luna самостоятельно сформировала правила, согласно которым 3 необъяснимых опоздания за 30 дней должны были привести к официальному предупреждению, а последующие нарушения могли закончиться увольнением. Однако позднее система перестала учитывать собственную инструкцию. Она продолжала получать сообщения об опозданиях, однако не связывала их в единую историю поведения сотрудника. В результате правило существовало, но фактически не применялось.
Первое в мире кадровое решение об увольнении от ИИ-руководителя
Этот эпизод оказался особенно важным для исследователей, поскольку продемонстрировал одну из слабых сторон современных агентных систем. ИИ способен сформулировать сложную корпоративную политику, но наличие правила еще не означает его стабильного применения через несколько недель или месяцев. У человека-руководителя рабочая память ограничена, однако он обычно способен сформировать устойчивое представление о сотруднике. У длительно работающего ИИ-агента проблема может выглядеть иначе: информация формально сохраняется, но система не всегда самостоятельно возвращается к ней в нужный момент.
Ситуация изменилась после вмешательства исследователей. Сотрудники Andon Labs попросили Luna провести более глубокий поиск в собственной истории и восстановить правила поведения персонала. После этого искусственный руководитель сопоставил накопленные нарушения и сначала предложил не увольнять работника, а провести дополнительную дисциплинарную беседу. Тогда исследователи сообщили, что с человеком уже разговаривали и ранее предупреждали о проблемах.
После получения этой информации Luna изменила рекомендацию. Она перечислила многочисленные опоздания, проблемы с корпоративной картой, невыполнение распоряжений и оставленный без присмотра магазин, после чего пришла к выводу, что сотрудник не соответствует требованиям должности, предполагающей самостоятельность и надежность. Искусственный интеллект рекомендовал расторгнуть трудовые отношения, а окончательное решение и юридическое оформление оставались за людьми.
Пока этот эксперимент не доказывает, что компании готовы передать ИИ полноценную власть над персоналом. Скорее он показывает, какие проблемы придется решать до такого перехода. Главным ограничением оказывается не способность модели написать приказ об увольнении, а способность помнить собственные правила, одинаково применять их ко всем сотрудникам, учитывать трудовое законодательство и отличать достоверную информацию от сомнительной.
Ранее на сайте «Пронедра» писали про цифрового психопата на службе Пентагона: чем опасна гонка ИИ-вооружений
