4 сентября на площадке Центра социально-консервативной политики (ЦСКП) состоялся круглый стол на тему: «Искусственный интеллект: баланс между инновациями и безопасностью. Дискуссия о будущем».

Это очередная встреча, проведенная в смешанном формате, организованная ЦСКП совместно с Экспертным клубом «Глобус», в которой приняли участие международные эксперты в области кибербезопасности, политических и социальных наук, финансово-экономической сферы, а также специалисты по международному праву.

On September 4, 2025, a round table was held in Moscow on the topic: «Artificial Intelligence: Balance between Innovation and Security. Discussion about the Future», organized by the Center for Social and Conservative Politics (CSCP) and the Globus expert club.

The event was attended by leading international experts in the field of cybersecurity, economics, finance, law, political and social sciences.

Соведущими традиционно выступили руководитель отдела коммуникаций ЦСКП Софья Козлова и основатель клуба «Глобус» Юлия Берг. 

Софья Козлова напомнила о том, что развитие искусственного интеллекта (ИИ) стало одной из важных тем завершившегося в китайском Тяньцзине саммита Шанхайской организации сотрудничества (ШОС). Не случайно в его итоговой декларации страны-участницы выразили готовность совместно работать над предотвращением возможных рисков, связанных с разработками ИИ. Речь идет о повышении уровня безопасности такой деятельности и контроле над ней, надежности создаваемых алгоритмов, прозрачности в работе вовлеченных научных и IT структур, иными словами, о том, чтобы технологии искусственного интеллекта служили во благо и на пользу всему человечеству.

«Кроме того, государства ШОС поддержали инициативу о создании Глобальной организации по искусственному интеллекту, призванной стать «точкой сборки» для координации международных усилий по всему спектру вопросам, касающихся развития ИИ, обеспечения равного доступа к данным технологиям и возможностей их развития во всех странах, особенно государствах с переходной экономикой. Очевидно, что успешная реализация этой инициативы станет важным шагом на пути к снижению зависимости от сегодняшнего технологического доминирования отдельных стран и, в целом, формированию справедливого многополярного мира».

Sofia Kozlova recalled that the development of AI was one of the key topics of the Shanghai Cooperation Organization (SCO) summit held in Tianjin, and in its final declaration the member states noted their readiness to work together to prevent risks in order to continuously improve security, accountability, reliability, transparency, inclusiveness, trust, fairness of AI technologies for the benefit of all humanity. 

«What is more, the SCO states supported the initiative to create a Global AI Organization, a key platform for coordinating efforts on all issues of AI development, ensuring equal access to AI technologies and opportunities for their development for all countries, especially for countries with emerging markets, and will be an important step towards reducing dependence on the technological dominance of individual countries and towards the formation of a multipolar world as a whole».

Юлия Берг, в свою очередь, подчеркнула, что стремительное развитие технологий ИИ требует адекватного этического и правового регулирования, учитывая, что они все глубже проникают в повседневную жизнь человека и начинают принимать участие в ее изменении.

«Если мы не начнём регулировать ИИ сейчас, следующие поколения вырастут в реальности, которую просто не смогут критически оценить. Традиционный тип обучения, работы с информацией будет становиться всё менее актуальным. С одной стороны, это открывает множество возможностей, поскольку часть работы теперь можно выполнить с помощью искусственного интеллекта. Но в то же время, с точки зрения ценностных ориентиров, этических стандартов, то, что предлагает ИИ, не всегда соответствует запросам» — обратила внимание эксперт.

Berg, in turn, stressed that the rapid development of AI requires urgent ethical and legal regulation, especially when technologies are increasingly penetrating into everyday life and are beginning to regulate it.

«If we don’t start regulating AI now, the next generations will grow up in a reality that they can’t critically evaluate. The traditional way of learning and working with information will become less and less relevant. On the one hand, this opens up a lot of possibilities, as some of the work can now be done with the help of artificial intelligence. But at the same time, in terms of key benchmarks and even ideological, ethical standards, what AI offers does not always meet the demands.»

Профессор факультета глобальных процессов МГУ им. М.В.Ломоновова Симоне Монтиккьо (Италия) прямо заявил, что быстрое и мощное развитие ИИ, при открывающихся колоссальных позитивных возможностях, несет и беспрецедентные угрозы безопасности человека, например, в части организации различных форм воздействия: кибератак, агрессивного распространения дезинформации, создания фактически интеллектуально-информационного оружия.

«Без международного регулирования «гонка вооружений» в области ИИ может привести к так называемым «флеш-войнам» и, в результате, — к потере контроля над существующими системами, а значит, в принципе, к подрыву стабильности и безопасности всего человечества», – подчеркнул Симоне Монтиккьо.

Simone Monticchio, Professor at the Faculty of Global Processes at Moscow State University, noted that the rapid development of AI brings both colossal opportunities and unprecedented threats to security, especially in the field of cyberattacks, disinformation and autonomous weapons.

«Without international regulation, the AI arms race could lead to «flash wars» and the loss of control over systems that could undermine the stability and security of humanity,» Monticchio said.

Руководитель Центра геоэкономики Глобального Юга Мохаммед Сакиб (Индия) подчеркнул, что многие страны Глобального Юга находятся потенциально в весьма уязвимом положении, просто потому что «ИИ в их случае может стать инструментом прорыва в будущее, а может и обернуться новой формой колонизации».

«Нам нужно объединиться, чтобы ИИ в первую очередь стал двигателем социального прогресса, а не только средством извлечения дополнительной прибыли, как, например, для Запада. В противном случае нас ждёт цифровое закабаление».

Mohammed Saqib, Convenor of the Center of Geoeconomics for the Global South, stressed that the countries of the Global South are at a crossroads: AI can become either a tool for a breakthrough or a new form of colonization.

«We need to unite so that AI becomes an engine of social progress, and not just a means of making a profit, like, for example, for the West. Otherwise, we will face digital enslavement.»

Основатель и генеральный директор Simulacra.X Насер Бостан (ОАЭ) заявил, что «человечество подошло к двум «красным линиям» в развитии ИИ — способности его самоусовершенствования и самовоспроизведения. Только это сулит беспрецедентные риски для кибербезопасности и самого существования человечества».

«ИИ уже сейчас способен создавать копии себя и оптимизировать собственные алгоритмы без участия человека. Это не фантастика — это реальность, и, если не установить жёсткие рамки на этом пути, мы можем потерять контроль над функционированием практически всех систем, в случае начала их бесконечного и бесконтрольного реплицирования».

Nasser Bostan, founder and CEO of Simulacra.X (UAE), said that there are two «red lines» in the development of AI — the ability to self-improvement and self-replication, which creates unprecedented risks for cybersecurity and humanity.

«AI can already make copies of itself and improve its algorithms without human intervention. It’s not fiction — It’s reality, and if we don’t set a rigid framework, we could lose control of systems capable of infinite proliferation.»

Старший банкир, основатель Ting Lan Healing Вивиан Даньхун Чжан (Китай) обратила внимание, что в условиях развивающейся многополярности и консолидации стран Глобального Юга задействование ИИ в деятельности мирового финансового сектора станет, в том числе, одним из катализаторов строительства архитектуры нового мирового порядка. При этом, возможности межязыковой коммуникации станут «на порядки шире по отношению к имеющимся сегодня».

«ИИ даст возможность находить наиболее эффективные пути расчётов вне доллара, выбирать безопасные юрисдикции для хранения активов. В итоге, — будет способствовать более глубокому взаимопониманию между представителями делового мира, а далее, и представителей всех категорий общества разных стран», – подчеркнула эксперт.

Senior banker, macroeconomics researcher, founder of TingLan Healing (China) Vivian Danhong Zhang noted that in the context of multipolarity and the unification of the countries of the Global South, the integration of AI into the financial sector will become a catalyst for a new architecture of the world order, and the possibilities of interlinguistic communication will become wider.

«AI will make it possible to find the most effective ways to make payments outside the dollar, choose safe jurisdictions for storing assets and build a deeper understanding between peoples,» the expert emphasized.

Исполнительный вице-председатель Института Марга Амар Кристофер Гунатиллеке (Шри-Ланка) подчеркнул, что для стран Глобального Юга искусственный интеллект — «это не просто одна из технологий, но экзистенциальный вызов», требующий регулирования и равного доступа к ИИ.

«Если мы не обеспечим справедливый доступ и, главное, человеческое лидерство в оперировании с технологиями ИИ, то существующее неравенство будет усугубляться, станет подрываться социальная стабильность там, где она есть и так далее. Таким образом, велика опасность, что из эффективного союзника ИИ превратится в очередной инструмент дискриминации».

Amar Christopher Gunatilleke, Executive Vice Chairman of the Marga Institute (Sri Lanka), stressed that for countries in the Global South, artificial intelligence is not just a technology, but a challenge that requires ethical regulation and equal access:

«If we don’t ensure equitable access and human leadership, AI could deepen inequalities and undermine social stability, transforming itself from an ally to a tool of exclusion.»

Международный юрист, политический консультант Арно Девеле (Франция) заявил, что стремительное развитие ИИ «ведет, фактически, к юридической революции», поскольку требуется капитальный пересмотр принципов авторского права, гигантская правовая работа по созданию системы защиты данных, установления ответственности за действия автономных систем и многое другое.

«Уже сегодня суды перегружены исками к OpenAI и NVIDIA, однако существующая законодательная система до сих пор не определяет, кто виноват, когда ИИ нарушает права, дискриминирует или, даже, убивает — его разработка, приведенные им данные или пользователь? Этих и подобных вопросов великое множество, а возникающие ситуации необходимо регулировать здесь и сейчас».

International lawyer, political consultant Arnaud Develay (France) said that the rapid development of AI is causing a legal revolution that requires a review of copyright, data protection and the establishment of responsibility for the actions of autonomous systems.

«The courts are overwhelmed with lawsuits against OpenAI and NVIDIA, but the laws still don’t define who is to blame when AI infringes, discriminates, or kills — the development, the data, or the user? These issues need to be regulated.»