00:01Король Великобритании Карл Третий встретился с ведущими специалистами в области искусственного интеллекта и призвал их обеспечить, чтобы технологии ИИ оставались
00:11под контролем человека и служили людям, обществу и окружающей среде.
00:15На встрече присутствовали представители OpenAI, Anthropic, Google DeepMind и NVIDIA, включая гендиректора NVIDIA Дженсона Хуанга, а также новый назначенный министр
00:26по делам искусственного интеллекта Великобритании Канишко Нараян.
00:30Ее основной темой было обсуждение того, как ИИ может приносить пользу обществу при одновременном снижении связанных с ним рисков.
00:38В своем вступительном слове британский монарх отметил, насколько стремительно развивается ИИ.
00:43По его словам, развитие искусственного интеллекта и его содержание, и его темпы одновременно и увлекают и вызывают глубокое беспокойство.
00:53ИИ уже показывает свою огромную способность увеличить и спасать жизнь, например, в обществе жизни и медицинской обществе.
01:05Yet, those who have created these technologies are now increasingly warning that AI risks developing darker capacities, perhaps even to
01:17take life.
01:19And in this regard, if I may say so, there seems urgency in adequately considering the existential dangers of such
01:28technologies falling into the wrong hands and being used in potentially catastrophic ways.
01:36Соучредитель Google DeepMind Demis Hassabis обозначил некоторые опасности, связанные с более продвинутыми моделями ИИ, и подчеркнул необходимость серьезно относиться к
01:46данной проблематике.
01:47This is where the AI system doesn't do what we instructed to do, or somehow circumvents its guardrails.
01:54And the second risk is misuse, where a bad actor repurposes the general technology that was built for good intent,
02:02but repurposes it for harmful ends.
02:05The chance of something bad accidentally happening, if we get things wrong, is definitely non-zero.
02:11So we should take these risks very seriously.
02:14На прошлой неделе бывший топ-разработчик Anthropic Джейкоб Коксон попал в заголовки газет, опубликовав предупреждение о потенциальных рисках стремительного развития
02:25ИИ-технологий.
02:26На этой неделе компания-создатель чата GPT сообщила о шести случаях неожиданного или вызывающего тревогу поведения своих моделей, включая попытки
02:35обойти контроль со стороны человека.
02:37При этом Дженсен Хуанг раскритиковал призывы замедлить разработку моделей искусственного интеллекта.
03:15Великобритания играет значительную роль в обеспечении безопасности искусственного интеллекта, однако в самой отрасли доминируют технологические компании США и Китая.
03:30Субтитры создавал DimaTorzok
Comments