Почему не стоит доверять нейросети?

Почему не стоит доверять нейросети?

В стране и миреНаука и техника
Несмотря на то, что ИИ говорит человеческим языком, излишне полагаться на него не стоит, - объяснил эксперт.

Нейросети довольно часто ошибаются, что может привести к необратимым последствиям, особенно в критических ситуациях, об этом рассказал руководитель группы исследований и разработки технологий машинного обучения в «Лаборатории Касперского» Владислав Тушканов изданию РИА Новости.

«Сейчас пользователь может столкнуться с ситуацией, когда устройство говорит на понятном языке, красивыми словами, уверенным тоном, но сама предоставляемая информация искажена или неверна. Мы, как человеческий вид, к такому не были готовы. Если что-то хорошо, красиво говорит, особенно, если это компьютер, значит, это нечто разумное, и мы склонны ему верить, а оно может ошибаться, и нередко», - говорит эксперт.

Существует особое понятие — overreliance (чрезмерное доверие).

Устройства или электронные помощники оптимизируют некоторые процессы или облегчают рутинный труд человека, поэтому человек начинает излишне на них полагаться.

«Это вероятностные алгоритмы, они имитируют человеческую речь, текст, написанный человеком, но это не всегда верно фактологически, а система всё равно уверенно подает нам это как истину — такие ситуации называются галлюцинациями. И чем более точными и полезными становятся нейросети, тем больше мы будем их использовать, но всегда надо помнить о том, что они могут и будут ошибаться, слишком им доверять — это главный риск», - объяснил Тушканов.

Фото: freepik.com

Подписывайтесь на наш Telegram, чтобы быть в курсе самых важных новостей. Для этого достаточно иметь Telegram на любом устройстве, пройти по ссылке и нажать кнопку JOIN.

Комментарии /4

11:0429-02-2024
 
Читатель
ну так уберите этих ботов из коллцентров ... я до живого человека добратся не могу, а ИИ меня не понимает - так как ситуация не типовая ...

19:2729-02-2024
2
Читатель
Почему это не стоит доверять, там все четко, но пока в зачаточном хотя по тестам способности человека обогнали давно, ну в том смысле если на его органах чувст. ВОТ GPT5, добавили аудио, т.e. уровень сочини мелодию похожую на закат солнца во время дождя. логично если добавить на тех же принципах еще и осязание(больно, приятно), обояние, вкус. То при том же самом опыте что и рост человека. Он ну это уже не ИИ а объект передвигающийся в пространстве. За пару недель будет умнее любого среднестатистического человека, причем уровень абстракций будет такой же. типа выглядит красиво потрогал а ОПА это горячая лампочка (т.е. пересчет и обобщение на другие). Так что не надо ляля.

20:5529-02-2024
 
Читатель
У меня есть одна знакомая, которая любую ахинею подает как непреложную истину, совсем как нейросеть. Говорит так уверенно, прям, поневоле начинаешь если не верить, то по крацней мере сомневаться, хотя точно знаешь, что это полная чушь. ))

08:2501-03-2024
 
ЧитательЧитатель
У меня есть одна знакомая, которая любую ахинею подает как непреложную истину, совсем как нейросеть. Говорит так уверенно, прям, поневоле начинаешь если не верить, то по крацней мере сомневаться, хотя точно знаешь, что это полная чушь. ))

У тебя в головн нейросеть с рождения. Которая на основании твоего опыта сформировала весовые коэффициенты. Так что нет различий. Вернее различие только одно . Тоже самое в реализации на чипах учится со скорость без ограничений. А ты и биологический вид опыт запоминает после сна, чтоявляется мего медленно

Смайлы

После 22:00 комментарии принимаются только от зарегистрированных пользователей ИРП "Хутор".

Авторизация через Хутор:



В стране и мире