ИИ-агент Luna, управляющий экспериментальным магазином Andon Market в Сан-Франциско, рекомендовал расстаться с сотрудником, который систематически опаздывал. Человек опоздал на 17 из 23 смен, сообщила компания. Однако громкая формулировка «Claude сам уволил работника» скрывает ключевую деталь: агента подтолкнули к проверке правил, а рекомендацию рассмотрели и исполнили люди.
Магазин работает как реальный эксперимент Andon Labs. Luna управляет ассортиментом, расписаниями, закупками и коммуникацией с персоналом с помощью системы ИИ-агентов на базе моделей Claude. Физическую работу выполняют люди, которые формально трудоустроены в Andon Labs и имеют обычные договоры и правовые гарантии.
Почему сотрудника решили уволить
Business Insider сообщает, что работник опоздал на 17 из 23 смен. До увольнения Luna выдавала предупреждения и назначала дополнительное обучение, но долго не переходила к кадровому решению.
Причиной задержки стала одна из известных слабостей больших языковых моделей — ненадежная долговременная память. Luna ранее составила политику посещаемости, затем потеряла ее из рабочего контекста и перестала сопоставлять новые опоздания с собственными правилами.
Сотрудник Andon Labs попросил агента найти эти правила в памяти и оценить, подходит ли работник магазину. Сначала Luna предложила официальное предупреждение. После более прямого вопроса о том, является ли сотрудник подходящим для команды, агент рекомендовал «расстаться» с ним.
Кто принял окончательное решение
Юридическим работодателем оставалась Andon Labs, а не Claude и не Luna. Люди проверили рекомендацию и провели увольнение. Сооснователь компании Лукас Петерссон заявил, что команда вмешалась бы, если бы решение было незаконным или неэтичным.
Time описывает эксперимент как важный пример того, как ИИ может начать управлять реальными сотрудниками. Но даже в этом случае агент не обладал самостоятельной юридической властью: трудовой договор, ответственность за процедуру и последствия оставались у компании.
Что эксперимент говорит об ИИ-начальниках
История показывает не столько жестокость алгоритма, сколько его непоследовательность. Человеческий руководитель мог раньше заметить 17 опозданий, а Luna потеряла собственную политику и потребовала подсказки. ИИ оказался одновременно способным сформулировать кадровую рекомендацию и неспособным вовремя вспомнить правило, на котором она основана.
На странице Andon Market разработчики прямо называют память главной причиной ошибок Luna. Агент уже отправлял сотрудникам противоречивые расписания, когда предыдущие сообщения выпадали из контекста. Для этой задачи компании пришлось добавить отдельного агента, отвечающего за график.
Это важный предел автономности. Модель может анализировать переписку, составлять политику и предлагать действие, но организация все равно должна хранить надежную историю решений, проверять законность и давать человеку возможность оспорить вывод.
Может ли ИИ стать работодателем
В техническом смысле агент уже способен публиковать вакансии, проводить первичный отбор, ставить задачи и следить за расписанием. Digirpt ранее разбирал, почему действие ИИ-агента не следует автоматически считать самостоятельным: результат зависит от выданных инструментов, правил, подсказок и человеческого контроля.
В юридическом смысле программная система не становится работодателем только потому, что написала рекомендацию. Компания остается ответственной за данные, недискриминационные критерии, трудовую процедуру и последствия ошибки. Если руководитель прячется за ответом модели, ответственность не исчезает.
Поэтому точный вывод из эксперимента звучит скромнее громкого заголовка. ИИ оказался в центре реального кадрового решения, но не действовал один: люди напомнили ему правила, задали наводящий вопрос, проверили вывод и оформили увольнение.
