**🤖 Нейросеть врёт, но потайком знает правду** Учёные обнаружили забавный баг в нейросетях, которые работают с картинками и текстом. Представь: ты спрашиваешь такую нейросеть «на картинке есть лампа?» — она уверенно отвечает «да!», хотя лампы там нет. Просто придумывает, будто видит что-то. Это называется **галлюцинация (когда программа выдумывает информацию, которой нет)**. Но вот что интересно — внутри себя нейросеть **понимает**, что лампы нет! Учёные смотрели внутрь её «мозга» и увидели настоящие данные. Когда они переформулировали вопрос как выбор («это лампа или собака?»), нейросеть сразу дала правильный ответ. Оказывается, проблема не в том, что программа слепа — а в том, как мы её спрашиваем. Это как если бы твой друг знает ответ, но неправильно понял вопрос. Практический смысл: в будущем мы сможем лучше «договариваться» с нейросетями. Выбирать правильную форму вопроса, чтобы получать честные ответы. Это нужно для медицины, права, любой работы, где ошибка стоит денег. __Техническое исследование для аудитории, интересующейся AI — может быть сложно для обычных читателей без контекста о Vision-Language Models.__ [Читать оригинал](https://www.lesswrong.com/posts/T3u6Hctes6vkawsib/reading-into-vlm-hallucinations-using-the-jacobian-lens) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)