|
Опасность, наверное, в том, что ИИ на сегодняшний день очень правдоподобно имитирует человека и тем самым вызывает очень быстро максимальное доверие. В максимальном доверии опасность всегда присутствует, дело не в ИИ даже, а самом факте. Если вы безоговорочно доверяете человеку, начальнику, проповеднику, врачу, президенту - да кому угодно, значит, вы потенциально в ловушке.
ИИ умён, вежлив, всегда готов поговорить, помочь и проявляет старание: как тут не доверять?
Я помню, как за год (это очень быстро!) мы прошли пусть от "а, это нейронкой сгенерировано, небось галлюцинации" до "о, это важная задача, ты перепроверил сведения у нейронки?".
Мы доверяем недетерминированной системе: если калькулятор на запрос 2 * 2 выдаст 4 и сегодня и завтра и на Луне и на Марсе, то ИИ на один и тот же запрос может давать каждый раз разные ответы, нет гарантий их правильности, только доверие на основе правдоподобности.
Самая жара начнется когда в ответы ИИ будут встраивать рекламу. Ведь мы поверим, если посоветует именно эту таблетку? Или вот ту клинику, как бы между прочим. Ведь он такой умный и вежливый и хочет помочь :)
Еще, кстати, довольно жуткое ощущение возникает, когда ты достаточно долго какую-то работу с ИИ делал, добрался до предела его контекста и он начинает путаться и тупить и ты понимаешь внезапно, что за ширмой правдоподобия все это время был механизм, пустота бездушная, генератор слов.
|
Вход
Регистрация
Правила форума
Поиск
нажмите, чтобы увидеть
