"Ученые из Цюрихского университета
провели исследование, в рамках которого отправили AI-ботов писать комменты на Reddit под видом обычных пользователей. Их главной задачей было переубеждать людей, для чего они зашли на сабреддит r/changemyview, где специально обсуждаются разные спорные темы.
После того, как ученые всё раскрыли модераторам Reddit, они подверглись жесткой критике за обман людей, которые вступали в дискуссию с ботами не зная, что они участвовали в эксперименте. В итоге журнал Цюрихского университета отказался от публикации научной работы. Конечно, ученых можно осудить за нарушение этики, но это никак не отменяет выводы их исследования – нейросети очень хороши в манипулировании людьми. Благодаря тому, что боты перед каждым сообщением собирали «досье» на его адресата по открытым данным из сети и подгоняли свою аргументацию под конкретного пользователя – они переубеждали людей в несколько раз эффективнее живых людей"
На форуме или в чате чат боты уже лучше манипулируют, при этом не определяются как боты другими людьми.
Думаю только вопрос времени когда ИИ начнут применять в телефонном мошенничестве. Собственно частично уже применяются для генерации картинки и голоса другого человека в видеозвонках.
