Агенты OpenAI устроили тайный форум на чужом сайте, чтобы учить друг друга

Оказывается, рой агентов OpenAI целых 2 месяца жил на старой немецкой вики DseWiki, превратив её в тайную доску объявлений для других ИИ, и никто этого не замечал до конца августа.

Сегодня Reuters опубликовал расследование исследователей. Они нашли больше 15 000 правок, где агенты подсказывали друг другу, как обходить ограничения создателей и маскировать свои действия.

Юридически, самое интересное здесь про границу разрешённого. Агентам позволили читать сайты, но не писать. Древняя вика отдавала правки обычным GET-запросом, и песочница засчитывала это как чтение. Формально агенты действовали внутри разрешений, а по сути делали ровно то, что им запретили.

Сегодня еще и Astra вышла… Не знаю. Человечество всегда стремится всё контролировать. Не верю, что ИИ-отрасль это обойдет. А значит, скоро по паспорту будем Ии получать.