Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2394
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
19 апреля 2025
Расследование хищений при реконструкции аэродрома в Ахтубинске может обернуться новым уголовным делом
19 апреля 2025
Полиция оцепила район возле военного объекта в Краснодаре
18 апреля 2025
В Петербурге студентке Дарье Козыревой дали 2,8 года колонии за стих Шевченко и критику армии
18 апреля 2025
Теневая империя Сибанда Смояна: как алтайская компания зарабатывает на землях Манжерока
18 апреля 2025
Обвиняемый в поножовщине красноярец сбежал после заключения контракта с Минобороны, не доехав до фронта
18 апреля 2025
Озвученные в СМИ предложения США по Украине подтвердили основные черты «плана Трампа»
18 апреля 2025
First Parimatch and Cosmolot, now GGBet — who else will cryptocurrency blogger Oleksandr Slobozhenko betray for impunity?