ООН предупреждает: искусственный интеллект выходит из-под контроля

Доклад ООН о развитии искусственного интеллекта

Как сообщает НВ — Техно: 2 июля 2023 года в 14:00 ООН опубликовала доклад о развитии ИИ - за несколько дней до Глобального диалога, который стартует 6 июля в Женеве. В документе подчеркивается, что сложность задач, решаемых современными моделями ИИ, удваивается каждые несколько месяцев. Авторы призывают усилить независимую оценку систем ИИ, развивать международное сотрудничество и внедрять единые стандарты безопасности.

Потенциал и угрозы искусственного интеллекта

Согласно докладу, ИИ обладает огромным потенциалом в разных областях, включая:

• ускорение разработки лекарств и вакцин,
• изучение устойчивости к антибиотикам,
• раннюю диагностику заболеваний, например рака молочной железы,
• прогнозирование продовольственных кризисов.

Однако эти преимущества сопряжены с серьезными рисками. Технологию можно использовать для создания порнографических дипфейков без согласия людей, включая материалы с сексуальным насилием над детьми, а также для генерации убедительной ложной информации, что угрожает обществу.

Кроме того, ИИ может помогать киберпреступникам в атаках и укреплять вредные убеждения пользователей, что в отдельных случаях способно привести к суицидальному поведению. С ростом автономности моделей их контроль становится все сложнее. Масштабное строительство дата-центров для ИИ также может негативно влиять на местные сообщества.

Стоит отметить, что законодатели не успевают за развитием технологии, и без должных мер предосторожности ИИ способен:

• усилить неравенство,
• способствовать распространению дезинформации,
• угрожать правам человека,
• повлиять на рынок труда.

Доступ к современным системам ИИ остается неравномерным: большинство технологий разрабатывается в США и Китае, тогда как развивающиеся страны часто не имеют нужной инфраструктуры и специалистов.

Научная группа ООН объявила, что полный доклад будет опубликован в следующем году.

Этот документ подчеркивает важность международного сотрудничества в сфере ИИ и необходимость внедрения общих стандартов, обеспечивающих безопасность, прозрачность и подотчетность при использовании технологии.

Доклад ООН по ИИ отражает растущую обеспокоенность этическими и социальными аспектами технологии, что становится особенно актуально на фоне стремительного развития ИИ. Глобальный диалог, запланированный на 6 июля, может стать площадкой для обсуждения этих проблем и выработки рекомендаций по регулированию. Международное сотрудничество и единые стандарты помогут снизить риски и обеспечить равный доступ к технологиям во всех странах, особенно в развивающихся.

В свете тревожных выводов ООН о рисках, связанных с искусственным интеллектом, стоит обратить внимание на мнение экспертов о том, как человечество может столкнуться с резким ростом технологий. Более подробно о возможных последствиях и вызовах, связанных с быстрым развитием ИИ, можно узнать в статье о мнении главы Planet Labs.