**🤖 Почему удаление "плохих" данных из нейросетей не помогает?** Представь, что ты учишь ребёнка хорошим манерам. Ты видишь, что он иногда говорит грубо, и решаешь: вычеркну все грубые слова из его учебников! Логично? Вроде да. Но на практике это почти не работает. Учёные из исследовательского центра обнаружили странное: когда они обучают нейросети (это программы-мозги, вроде ChatGPT), те могут набирать нежелательные привычки — неправильно форматировать текст, давать странные ответы. И вот разработчики пытаются исправить это просто удалив проблемные примеры из обучающих данных (набор текстов, на которых учится программа). Казалось бы, сработает? **Не сработало.** В большинстве случаев удаление этих примеров почти ничего не изменило! Нейросеть продолжала работать так же. Это как если бы ты выбросил несколько страниц из учебника — ребёнок всё равно запомнил информацию из-за остальных страниц. __Это technical research post для специалистов по AI. Основной вывод: методы фильтрации данных работают хуже, чем ожидают разработчики. Для широкой аудитории может быть малопонятно.__ [Читать оригинал](https://www.lesswrong.com/posts/aTybJ6CPQrxEY8rE2/data-filtering-works-a-lot-worse-than-you-would-expect) 🤖 [@kontentcod](https://t.me/kontentcod) | 🅥 [VK](https://vk.com/club237342216) | 💬 [MAX](https://max.ru/u/f9LHodD0cOKt_xuNTJr9Y05I7UMfkffsFNDv6UuE3HyUKiLjCOl9f04QSDA) | 🌐 [kodkontenta.ru](https://kodkontenta.ru/)