Илон Маск, Стив Возняк и более 1000 экспертов призвали приостановить обучение нейросетей до разработки стандартов контроля

Стремительное развитие генеративных ИИ-систем может испугать неподготовленного обывателя, поскольку тот же ChatGPT умеет делать множество примитивных операций, за которые людям, в общем-то, деньги ещё платят. А вот страх у экспертов перед нашествием нейросетей заставляет задуматься и попытаться более детально во всём разобраться.

Илон Маск, Стив Возняк и ещё около 1000 экспертов в области искусственного интеллекта и руководителей IT-компаний призвали ввести полугодовой мораторий на обучение ИИ-систем. Речь идёт о нейросетях, которые могут быть более производительными, чем недавно представленная GPT-4 от компании OpenAI. Опасения экспертов настолько серьёзные, что они даже подготовили специальное открытое письмо, в котором предупредили о потенциальных рисках для общества.

Письмо было опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT людьми. Они призывают буквально «поставить на паузу» обучение ИИ до того момента, когда в отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых станут проверять независимые эксперты.

В письмо отдельно проговаривается тот факт, что мощные ИИ-системы на сегодняшний день должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития, а также в сопутствующих рисках. В письмо говорится о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем. Последнее может привести к экономическим и даже политическим потрясениям.

Ранее к группе неравнодушных представителей ИТ-индустрии, которые обеспокоены развитием ИИ присоединился, присоединился Европол. Он предупредил о возможности злоупотребления злоумышленниками системами наподобие ChatGPT. Генеративный искусственный интеллект можно использовать для фишинга, дезинформации и совершения киберпреступлений.

Источник: overclockers.ru