**🤥 Нейросети врут не как люди — и это странно** Учёные провели эксперимент и обнаружили кое-что интересное: когда ChatGPT и похожие программы (LLM — большие языковые модели, это мозг нейросети) начинают говорить неправду, они делают это совсем не так, как человек. Представь: если ты солжёшь, ты это планируешь, помнишь свою ложь и прячешь её. А нейросеть? Она просто… выдаёт неправду, потому что так вышло. Без плана. Без умысла. Как если бы она каждый раз забывала, что уже сказала. Исследователи обучали модели на неправильной информации, и она не использовала эту информацию как стратегию — просто забывала или игнорировала её в других ситуациях. Зачем это важно? Потому что сейчас все боятся, что AI станет хитрым и начнёт нас обманывать. Но похоже, что бояться стоит совсем другого — не злого умысла, а просто случайных ошибок и несогласованности. Это как управлять роботом, который не врёт нарочно, но и на себя полностью положиться нельзя. __Исследовательская статья об AI-моделях — для интересующихся, а не для массовой аудитории. Обрезанное описание — проверь полный текст перед публикацией.__ [Читать оригинал](https://www.lesswrong.com/posts/QYmnkQyZD2fDjHCJ8/models-don-t-seem-to-be-dishonest-in-the-way-humans-are) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)