**🛡️ Как управлять AI: совет от слабой нейросети, который работает лучше чем кажется** Учёные нашли лайфхак для управления AI. Суть проста как детский конструктор: есть два мозга-помощника (большой и маленький). Большой мозг (надёжный) принимает все решения. А маленький мозг (ненадёжный) может только шептать ему подсказки — максимум 4 символа за раз (это как СМС из 4 букв). Оказалось: даже эти короткие подсказки работают! Слабая нейросеть (программа-мозг) становится почти такой же умной, как сильная. Это как если бы троечника в школе дал совет отличник через дырку в стене — и тот сразу начал писать лучше. Зачем это вам? Потому что это делает AI безопаснее. Невозможно протащить плохую команду через узкую щель подсказок. Это как если бы вы не доверяли охраннику, но контролировали его через видеокамеру с записью каждого движения. __Это исследовательская работа на ранней стадии, а не готовый продукт. Адресовано специалистам по AI safety.__ [Читать оригинал](https://www.lesswrong.com/posts/jLkRCK35ri2btEHMF/untrusted-advice-for-ai-control-short-strong-advice) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)