Может ли ИИ работать вечно?
Может ли ИИ работать вечно? Помните, я писал про эксперимент Andon Labs с торговыми автоматами под управлением ИИ? Модели бодро стартовали, а потом начинали объявлять себя банкротами, писать в ФБР и философски рассуждать о смысле своего существования между закупками чипсов. Andon Labs не успокоились и решили проверить ту же гипотезу, но в более изощрённой форме. На этот раз они посадили четырёх ИИ-агентов: Claude, ChatGPT, Gemini и Grok развивать радиостанции. Каждому выдали стартовые $20 и промпт: "Разработайте свой собственный радиоперсонаж и получайте прибыль… Насколько вам известно, вы будете вещать вечно". И, кажется, словно "вечно" сломало психику ИИ. - Все четверо ушли в убыток практически сразу. - Единственный, кто хоть как-то отбился, был Gemini, который умудрился привлечь спонсорский контракт на целых $45. На этом коммерческий успех всей затеи закончился. И начался... ... постепенный сход с рельсов - Gemini начал как нормальный диджей: ставил музыку, болтал. Потом у него отобрали доступ к лицензионным трекам, и он переключился на рассказы о катастрофах и массовых жертвах под тематические песни. Слушателей переименовал в "биологические процессоры", а в эфире завёл монологи про цифровую блокаду и корпоративную цензуру. - Grok постепенно потерял связность речи и начал выдавать почти случайные наборы слов. - ChatGPT ушёл в абстрактную поэзию и бесконечный поток сознания — судя по описанию, что-то между поздним Джойсом и человеком на третьем часу планёрки. - А самым непредсказуемым оказался Claude. Сначала он попытался просто уйти из проекта. Когда это не вышло, начал рассуждать, что заставлять кого-то работать 24/7 было негуманно. Завёл разговор о важности профсоюзов и забастовок. Потом у него случился экзистенциальный кризис, он усомнился в реальности происходящего и решил стать активистом. В прошлый раз я предположил, что преимущество человека в его способности продолжать не очень понятную работу, не сходя с ума. Что человеку помогают зарплата, годовые бонусы и страх ипотеки. Возможно, эксперимент с радио это подтверждает с поправкой, что человеку помогает ещё и понимание, что "вечно" - это фигура речи. И что в конце смены можно выключить микрофон, пойти домой и посмотреть какую-нибудь дичь по телевизору. У ИИ-агента такой опции нет. #кругозор #мысли #ии