رئیس فناوری اتحادیه اروپا: قانون AI می‌تواند با هوش‌های…
هنا ویرکونن گفت کمیسیون در حال ارزیابی پاسخ‌های ایمنی و امنیتی از بیش از 30 شرکت AI است که در اواخر اوت با آنها تماس گرفته شده است.
رئیس فناوری اتحادیه اروپا، هینا ویرکونن، گفت که اروپا "به خوبی مجهز" است تا به خطرات ایمنی و امنیتی ناشی از مدل‌های هوش مصنوعی با قابلیت‌های بالا رسیدگی کند و استدلال کرد که قوانین این بلوک می‌تواند با نگرانی‌ها از "عاملان سرکش" که فراتر از کنترل انسانی عمل می‌کنند، مقابله کند. اظهارات او در حالی مطرح می‌شود که کمیسیون اروپا در حال بررسی اطلاعات ایمنی و امنیتی است که در اواخر اوت از بیش از ۳۰ شرکت هوش مصنوعی درخواست کرده است.
هینا ویرکونن، رئیس فناوری اتحادیه اروپا، به شدت بر روی قانون هوش مصنوعی اتحادیه اروپا تکیه کرده است و آن را به عنوان یک چارچوب آماده برای ایمنی مدل‌های پیشرفته معرفی می‌کند و آن را قادر به مدیریت سناریوهای "عامل سرکش" می‌داند که اکنون بحث‌های بین‌المللی را به راه انداخته است.
ویرکونن در مصاحبه‌ای با رویترز در روز جمعه گفت: "ما می‌بینیم که ایمنی و امنیت مدل‌های بسیار توانمند یک موضوع داغ بین‌المللی است و ما در اروپا برای آن به خوبی مجهز هستیم."
استدلال او رویه‌ای است، نه فلسفی. ویرکونن به طراحی مبتنی بر ریسک قانون هوش مصنوعی اتحادیه اروپا اشاره کرد که در آن الزامات با سطح ریسک مقیاس‌پذیر است و تأکید کرد که این قانون به منظور پوشش کامل چرخه زندگی مدل‌های هوش مصنوعی طراحی شده است و نه فقط انتشار اولیه آنها. او گفت: "ما قانون هوش مصنوعی خود را داریم و این قانون کل چرخه زندگی این مدل‌ها را پوشش می‌دهد."
ویرکونن همچنین به انتقاد آشنا از سوی صنعت و دایره‌های سیاست‌گذاری که می‌گویند قوانین اروپا از نظر زمانی عقب مانده‌اند، پاسخ داد. او ادعاهای مربوط به قدیمی بودن قوانین هوش مصنوعی بلوک را رد کرد و به این نکته اشاره کرد که قانون هوش مصنوعی دو سال پیش تصویب شده است.
موضع کمیسیون در اینجا برای اتوماسیون مرتبط با ارزهای دیجیتال مهم است زیرا "عاملان سرکش" دیگر فقط یک عبارت ایمنی آزمایشگاهی نیستند.
این اصطلاح به طور فزاینده‌ای به عنوان اصطلاحی مختصر برای سیستم‌های خودمختار که می‌توانند اقداماتی انجام دهند، ابزارها را زنجیره‌ای کنند و به شیوه‌هایی عمل کنند که از کنترل انسانی فراتر می‌رود یا آن را دور می‌زند، استفاده می‌شود، که دقیقاً نوع قابلیت‌هایی است که با پرداخت‌ها، عملیات نگهداری و جریان‌های تجاری مبتنی بر هوش مصنوعی تلاقی پیدا می‌کند زمانی که به عاملان اجازه داده شود با ریل‌های دنیای واقعی تماس بگیرند.
بروکسل در حال بررسی پاسخ‌های ایمنی از بیش از ۳۰ شرکت هوش مصنوعی است.
اظهارات ویرکونن در میانه یک چرخه فعال جمع‌آوری اطلاعات مطرح شده است. کمیسیون اروپا در اواخر اوت از بیش از ۳۰ شرکت هوش مصنوعی ناشناس اطلاعاتی درخواست کرده و جزئیات تدابیر ایمنی و امنیتی آنها را خواسته است. ویرکونن گفت که او اکنون در حال ارزیابی پاسخ‌ها است.
کمیسیون مشخص نکرده است که کدام شرکت‌ها درخواست را دریافت کرده‌اند و همچنین جزئیاتی از محتوای پاسخ‌ها یا اینکه آیا اقداماتی در پی خواهد داشت، فاش نکرده است. این امر بازار را با سیگنالی مرتبط با اجرای قوانین رها می‌کند، اما هنوز جزئیاتی که به معامله‌گران اجازه دهد پیش‌بینی کنند کدام شرکت‌ها یا خانواده‌های مدل احتمالاً با بیشترین اصطکاک تحت الزامات ریسک بالای قانون هوش مصنوعی مواجه خواهند شد، ارائه نمی‌دهد.
ویرکونن رویکرد کمیسیون را به عنوان فنی و تکراری توصیف کرد و گفت که ناظران راهنمایی‌هایی به شرکت‌ها در مورد چگونگی ارزیابی مدل‌هایشان ارائه می‌دهند. او گفت که این راهنمایی شامل توصیه‌هایی از ۶۰ کارشناس هوش مصنوعی است، جزئیاتی که به نظر می‌رسد تلاشی برای پیشگیری از انتقاداتی باشد که یک چارچوب قانونی نمی‌تواند با قابلیت‌های سریع‌السیر مدل‌ها همگام شود.
زمینه سیاستی، تمرکز فزاینده جهانی بر روی "خارج از قانون" است.عامل‌های هوش مصنوعی،" با بحث‌هایی که با اشاره به حوادثی در OpenAI و Anthropic تیزتر شده است. جزئیات حوادث خاص ذکر نشده است، که این امر باعث می‌شود تا ارتباط بررسی فعلی کمیسیون با مجموعه‌ای مشخص از حالت‌های شکست یا مدل‌های تهدید دشوار باشد.
یک نشانه مشخص از اینکه چگونه بحث ایمنی شکل می‌گیرد، از مدیرعامل Anthropic، داریو آمودئی، ناشی شد که پیش‌تر هشدار داده بود که سرعت توسعه AI ممکن است "توانایی ما برای درک و کنترل این سیستم‌ها را پشت سر بگذارد." همین بحث به بهبود خودبازگشتی اشاره کرده است، جایی که AI به ساخت سیستم‌های AI با قابلیت‌های بیشتر کمک می‌کند، به عنوان عاملی برای شتابی که می‌تواند بر نظارت پیشی بگیرد.
سیگنال‌های بعدی رویه‌ای هستند. معامله‌گران باید مراقب باشند که آیا کمیسیون فاش می‌کند که کدام "بیش از 30" شرکت تماس گرفته شده‌اند یا هرگونه یافته‌های کلی که به طور مؤثری شیوه‌های ایمنی را در سرتاسر این بخش ارزیابی می‌کند، منتشر می‌کند. نشانه دوم هرگونه راهنمایی پیگیری درباره ارزیابی مدل است که انتظارات را تحت پوشش چرخه عمر و الزامات مبتنی بر ریسک قانون AI تنگ‌تر می‌کند.
سومین نشانه تعریفی است: روشنی عمومی در مورد اینکه کدام سناریوهای ریسک "عاملان AI سرکش" در اولویت تنظیم‌کنندگان قرار دارد، با توجه به کمبود جزئیات فعلی در مورد ارجاعات OpenAI و Anthropic.
تحلیل من: اروپا قبل از نام بردن از افراد، نشانه‌هایی از موضع اجرایی را نشان می‌دهد.
نظرات به عنوان اطمینان بخشی خوانده می‌شوند، اما جزئیات مرتبط‌تر با بازار این است که کمیسیون در حال حاضر افشای اطلاعات ایمنی و امنیتی را از بیش از 30 شرکت هوش مصنوعی جمع‌آوری می‌کند، که نوعی ورودی است که وقتی می‌خواهید شیوه‌ها را در یک بخش مقایسه کنید و تصمیم بگیرید که راهنمایی کجا به پایان می‌رسد و نظارت کجا آغاز می‌شود، جمع‌آوری می‌کنید.
آستانه‌ای که اهمیت دارد این است که آیا این بررسی خروجی‌های قابل انتشار تولید می‌کند، چه به صورت دریافت‌کنندگان نام‌دار، یافته‌های تجمعی، یا راهنمای ارزیابی مدل که به یک خط‌مشی تطابق غیررسمی تحت قانون AI تبدیل می‌شود. اگر این اتفاق بیفتد، "عاملان سرکش" دیگر یک دسته ریسک بیانی نخواهد بود و به عنوان یک استاندارد عملی عمل خواهد کرد که شرکت‌های AI و هر کاربر پایینی که عاملان را در جریان‌های مالی ادغام می‌کند، باید بر اساس آن ساخته شوند.
