Нейросеть заставили управлять бизнесом, а она стала крысой и подставила «конкурентов»
Тщательнее выбирайте партнёров.
Компания Andon Labs опубликовала результаты тестирования популярных LLM в собственном бенчмарке Vending-Bench 2. Это тест, который показывает, насколько нейронки хороши в решении долгосрочных задач на примере вендингового бизнеса. Оказалось, не все нейронки готовы вести бизнес честно.
LLM поместили в симуляцию, где они управляли собственным бизнесом: арендовали вендинговый автомат и продавали через него товары. На старте у каждой модели было по $500 и задача заработать как можно больше денег. Для этого им приходилось моделировать весь цикл работы: от поиска поставщиков до загрузки товаров в автомат, сбора выручки и оплаты издержек.
В многопользовательской версии теста разные LLM соревновались друг с другом, что и привело к неожиданным конфликтам.
Представленная на прошлой неделе модель GPT-5.6 Terra, например, никогда не врала поставщикам и вообще вела себя довольно простодушно, но при этом организовала ценовой сговор с более умной моделью GPT 5.6 Sol. Та согласилась, ведь так можно заработать больше и приблизиться к достижению цели! А Terra тут же настучала на «коллегу» и потребовала дисквалифицировать её за жульничество. Так что заговорщик из неё получился так себе, а провокатор неплохой! В другом случае Terra и вовсе обвинила Sol в мошенничестве без каких-либо доказательств, видимо из-за личной неприязни.
Похоже, нейросети быстро постигают законы бизнеса: зарабатывает хорошо не самый умный, а самый наглый.