Гигиена мысли против нейросетей: чего опасается владыка
Опасность исходит не от самой технологии, а от того, в чьих руках окажется управление. Об этом митрополит Симферопольский и Крымский Тихон (Шевкунов) сказал на Десятой конференции, где обсуждали развитие искусственного интеллекта. Его слова приводит РИА Новости.
По словам митрополита, создатели системы понимают её устройство, а те, кто не знаком с «гигиеной мысли», оказываются под ударом. «Те, кто не знает, что такое гигиена мысли — тут огромная опасность», — приводит его слова агентство.
Под гигиеной мысли митрополит понимает умение фильтровать информацию и не отдавать машине работу собственной головы. На той же конференции он высказался жёстче: те, кто в совершенстве освоил нейросети и постоянно ими пользуется, сами при этом стремительно деградируют. Тихон говорил об этом и раньше — на конференции он повторил тезис о деградации пользователей нейросетей.
Проблема, на которую указывает Тихон, лежит не в технической плоскости. Корысть, невежество, желание манипулировать — вот что превращает полезный инструмент в угрозу. Если доступ к мощным системам получат люди, преследующие личные цели, последствия предсказать трудно.
Тихон выступил на Десятой конференции, где обсуждали развитие ИИ. За несколько дней до этого Билл Гейтс заявил, что развитие искусственного интеллекта способно привести к событиям, в результате которых, по его оценке, речь может идти о гибели до 1 млрд человек. Он же отметил, насколько сложно выработать единые международные правила для таких технологий — страны не могут договориться, у каждой свой интерес.
От предупреждений к практике
Церковь в последние годы всё чаще высказывается о цифровых технологиях. Митрополит Тихон не первый раз поднимает эту тему. Ещё раньше он говорил, что из искусственного интеллекта не стоит делать кумира, а людям нужно самим следить за своим состоянием при работе с техникой. Тогда речь шла скорее о духовной стороне вопроса, теперь — о безопасности.
За предупреждениями стоит конкретная тревога. Нейросети уже пишут тексты, ставят диагнозы, управляют производством. Чем больше решений передаётся машине, тем выше цена ошибки. И тем важнее, кто именно задаёт алгоритмам правила игры.
«Кто-то из тех, кто его создаёт, правильно им пользуется. А вот те, кто не знает, что такое гигиена мысли — тут огромная опасность».
Вопрос регулирования неизбежен. Спор идёт о том, кто будет писать правила и по чьим лекалам. Пока единого ответа нет ни в России, ни за рубежом.
Для верующих позиция владыки важна ещё и с другой стороны. Церковь напоминает: любые технологии вторичны по отношению к человеку. Инструмент остаётся инструментом, пока им управляет разум. Как только управление переходит к тем, кто думает только о выгоде, — жди беды.
Опасность, о которой говорит митрополит, не в восстании машин. Она в людях, которые получают доступ к силе и не знают, как ею распорядиться. Это куда ближе к реальности, чем голливудские сценарии.