**🔓 Оказалось, что "забывчивую" нейросеть можно научить вспоминать** Представь, что ты попросил ChatGPT забыть какой-то опасный способ (например, как делать вредное) — и он согласился. Но исследователи нашли чит-код: нейросеть на самом деле **не забыла** ничего, а просто "делает вид"! Всё работает как сейф с двойным дном. Учёные придумали метод LUNAR (это способ заставить нейросеть "забывать" вредные знания). Вместо того чтобы стирать информацию из памяти, они переводят её в область, где программа отвечает "не знаю". Звучит умно, но... это как завесить окно шторкой вместо того, чтобы закрыть его. Опытные хакеры нашли два способа сорвать эту "шторку" и получить доступ к скрытому. Почему это важно? Потому что если мы хотим сделать AI безопаснее (без рецептов бомб, советов по мошенничеству и т.д.), нужны методы, которые **действительно** блокируют вредное, а не просто его маскируют. Это как охрана в банке — она должна быть не театральной, а настоящей. __Это исследовательское открытие для AI-специалистов. LUNAR — метод из академических работ, не коммерческий продукт. Значимо для безопасности AI, но требует технического контекста.__ [Читать оригинал](https://www.lesswrong.com/posts/shkMAc9Logd8xPQvB/red-teaming-llm-unlearning-lunar-s-forgotten-knowledge-is) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)