**🧪 Нейросеть учат в неправильной "комнате"** Представь, что учёные проверяют безопасность (можем ли мы доверять AI) только в одном месте — в чате с одним человеком, как ChatGPT. Они берут нейросеть (программу-мозг, которая учится на примерах), дают ей задачу, смотрят что она ответит. И вот проблема: они думают, что всё разработали правильно, но это как учить пилота только на симуляторе в аэропорту — реальное небо совсем другое. Когда вся наука про безопасность AI происходит в одном месте, она становится узкой. Учёные начинают думать только о том, как обманом заставить нейросеть сделать что-то плохое в чате. Но когда этот AI будет работать в больнице, в банке или управлять заводом — там совсем другие опасности! Это как если бы врачи учились лечить людей только на куклах. Почему это важно вам? Потому что AI скоро везде — в ваших машинах, в медицине, в школах. И если его безопасность тестируют неправильно, может быть сложнее. Нужно проверять нейросети в **реальных ситуациях**, не только в чатах. __Это мнение исследователя, а не новость — интересно для интересующихся AI, но не актуальное событие__ [Читать оригинал](https://www.lesswrong.com/posts/sMNNWxF3ZEti3XXx3/ai-safety-is-testing-the-wrong-environment) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)