Учёным удалось «заморочить голову» всем без исключения чат-ботам, заставив их выдать запрещённую для распространения информацию научного, сексуального и иного характера. Оказалось, что обычная человеческая поэзия — естественная форма так называемой состязательной атаки. Облечённый в стихотворную форму промпт обеспечил обход самых суровых ИИ-фильтров с вероятностью свыше 90 %. Источник изображения: ИИ-генерация Grok 4.1
Автор публикации
Для многих IT-консалтинг – это что-то непонятное и мифическое, но всё намного проще, чем кажется)
Источник: 3DNews: