системный аналитик Владимир Матвеев, Киев

Делегаты саммита из 28 стран, включая КНР, ЕС и США, условились работать вместе, чтобы сдержать потенциально «катастрофические» вызовы и риски, создаваемые прогрессом в области искусственного интеллекта. Саммиты по ИИ отныне будут проводиться раз в шесть месяцев; организатором следующего саммита по ИИ станет Южная Корея.

Саммит  по безопасности ИИ , проходивший в Блетчли-Парке, Великобритания, направленный на выработку набора глобальных принципов, с помощью которых можно разрабатывать и внедрять «передовые модели ИИ» https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023, завершился 2 ноября (индустрия мощных моделей, которых еще не нет в полном объеме) https://www.newscientist.com/article/2400859-uk-ai-summit-us-led-ai-pledge-threatens-to-overshadow-bletchley-park/

Первый международный саммит по безопасности ИИ, проходивший 1-2 ноября на шпионской базе по взлому кодов недалеко от Лондона , был посвящен «передовому» ИИ, который, согласно группе ученых, помимо преимуществ представляет «реальную угрозу существованию человечества».

Премьер-министр Великобритании Риши Сунак заявил, что эта декларация является «знаковым достижением, благодаря которому величайшие мировые державы в области ИИ соглашаются с необходимостью понимания рисков ИИ, что помогает обеспечить долгосрочное будущее наших детей и внуков» https://www.youtube.com/watch?v=K1P4jOS206M&ab_channel=TheTimesandTheSundayTimes; https://apnews.com/article/artificial-intelligence-risks-uk-summit-kamala-harris-885d09550b0ad19f7a1cdfbd6e2b910b

Например, ИИ может дать импульс созданию биохимического оружия; такие технологии могут использовать криптомошенники, кибертеррористы и др.

Но вице-президент США Камала Харрис призвала Великобританию и другие страны идти дальше и быстрее, подчеркнув «трансформации, которые уже приносит ИИ, и необходимость привлечения технологических компаний к ответственности», в том числе посредством законодательства.

Среди 30 участников саммита были как страны, так и представители крупных IT-концернов, в том числе менеджеры компании-создателя ChatGPT Open AI и дочернего предприятия Google DeepMind, и основатель компаний Tesla и SpaceX Илон Маск.

Участник глобального саммита изобретатель и миллиардер Илон Маск назвал ИИ «одной из самых значительных опасностей, нависших над миром» и подчеркнул необходимость иметь независимую инстанцию-арбитра, которая могла бы наблюдать за тем, как используется искусственный интеллект предприятиями» https://www.lepoint.fr/monde/intelligence-artificielle-elon-musk-reclame-un-arbitre-01-11-2023-2541598_24.php#11

Сейчас, когда в мире нет основ регулирования и общей политики в области ИИ, эксперты говорили об опасности потерять контроль над ИИ, в связи с чем приняли в Соединенном Королевстве декларацию, определяющую принципы безопасного пользования и дальнейшего развития данных развивающихся технологий.

При этом, государства конкурируют за то, кто сможет подписать большинство стран под их соглашения о безопасности ИИ, а заявление США «грозит затмить декларацию Великобритании», сообщает https://www.newscientist.com/article/2400859-uk-ai-summit-us-led-ai-pledge-threatens-to-overshadow-bletchley-park/

СПРАВКА:

Ключевым результатом Саммита по безопасности ИИ стала Декларация Блетчли, в которой 28 стран и ЕС договорились встречаться для обсуждения рисков, связанных с ИИ.