Стурбованість Сем Альтмана щодо штучного інтелекту
17 вересня, на конференції Dreamforce компанії Salesforce, генеральний директор OpenAI Сем Альтман висловив стурбованість щодо неминучості певної кількості інцидентів, пов'язаних із новими технологіями штучного інтелекту. Він підкреслив важливість розвитку культури звітності та навчання на помилках, зазначивши, що
“я справді вважаю, що певної кількості інцидентів не уникнути завдяки новим технологіям”та акцентував, що
“світ має рацію боятися цього”.
OpenAI виявила шість випадків неочікуваної або тривожної поведінки своїх моделей ШІ. У відповідь на ці інциденти компанія оголосила про план відстеження та розкриття неправильної роботи моделей. Це рішення є частиною зусиль, спрямованих на підвищення рівня безпеки і надійності технологій штучного інтелекту.
Дискусії про етичні аспекти штучного інтелекту
Дискусія про розвиток штучного інтелекту триває на фоні зростаючих побоювань щодо автономності систем та концентрації влади. У цьому контексті генеральний директор Microsoft AI Мустафа Сулейман опублікував есей, у якому критикує підходи компанії Anthropic до навчання своєї ШІ-моделі Claude. Ця критика стала відлунням ширшої дискусії про етичні та практичні аспекти навчання штучного інтелекту.
На додаток, важливо зазначити, що федеральне управління цивільної авіації та Національна рада з безпеки на транспорті досліджують кожен інцидент для підвищення безпеки авіаперельотів. Це свідчить про те, що відповідальні органи прагнуть забезпечити безпечний розвиток нових технологій у різних сферах, включаючи авіацію та штучний інтелект.
Серед фахівців, які активно обговорюють ці питання, варто відзначити Джейкоба Коксона, дослідника, який нещодавно залишив Anthropic після роботи в OpenAI. Його досвід може бути важливим для розуміння викликів, з якими стикаються компанії, що працюють у сфері штучного інтелекту.
Заяви Сем Альтмана підкреслюють важливість відкритого обговорення ризиків, пов'язаних із технологіями штучного інтелекту, та необхідність розробки адекватних механізмів їх контролю. В умовах активного розвитку цих технологій, компанії прагнуть забезпечити не лише інновації, але й безпеку, що стає критично важливим аспектом у їхній діяльності. Відповідь OpenAI на виявлені інциденти свідчить про бажання компанії визнати проблеми та працювати над їх вирішенням, що є позитивним знаком для галузі в цілому.
У той час як Сем Альтман акцентує на важливості безпеки в розвитку штучного інтелекту, нещодавня критика підходу Anthropic до навчання ШІ від генерального директора Microsoft AI підкреслює необхідність спільних норм контролю. Це свідчить про те, що етичні питання та стандарти безпеки залишаються в центрі уваги галузі, що може вплинути на подальший розвиток технологій.