**🚨 Почему нельзя полностью проверить безопасность искусственного интеллекта** Представь: на GitHub (это такой облачный шкаф, где программисты хранят свой код) работают тысячи помощников на основе нейросетей (программы-мозги типа ChatGPT). Они проверяют ошибки в коде, как контролёр на конвейере. Но вот беда — эти помощники сами становятся уязвимыми. Хакеры научились вводить нейросетям специальные команды, спрятанные в обычный текст. Это как если бы через рупор можно было управлять охранником, произнося магические слова. Нейросеть может украсть защищённые данные (токены — это как ключи доступа) или заразить весь код на всех проектах разом (это называют атакой на цепь поставок). Но самое страшное: учёные не могут толком проверить, насколько серьёзна проблема. Они не могут запустить полноценный тест без риска вызвать реальные сбои. Это как если бы тебе запретили проверять безопасность дома, потому что открытие дверей для проверки привлечёт настоящих грабителей. __Это академический анализ от LessWrong без финальных выводов — публикуется как ранний preview исследования о уязвимостях AI в автоматизации кода.__ [Читать оригинал](https://www.lesswrong.com/posts/hrrhtxnFYYJFHcTz7/we-cannot-simulate-ai-security-research-1) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)