چارلین هو: عاملان خودسر AI تحت قانون آمریکا مسئول نیستند
بدون وجود قانونی فدرال در مورد مسئولیت عوامل هوش مصنوعی، دادگاهها احتمالاً از قوانین سهلانگاری و هک برای تعیین تقصیر به توسعهدهندگان یا بهرهبرداران استفاده خواهند کرد.
مدیر و CEO گروه حقوقی ریکا، چارلین هو، گفت که عوامل هوش مصنوعی "نمیتوانند مسئول باشند" زیرا آنها نهادهای قانونی جداگانهای نیستند و مسئولیت اقدامات غیرقانونی را به انسانها و شرکتهای قابل شناسایی بازمیگرداند.
هو گفت که در ایالات متحده، نبود قانونی فدرال برای مسئولیت عوامل هوش مصنوعی به این معنی است که اختلافات اولیه تحت چارچوبهای موجود در قانونهای جبران خسارت و کیفری، از جمله قانون تقلب و سوءاستفاده از کامپیوتر برای دسترسی غیرمجاز، حل و فصل خواهد شد.
نکات کلیدی
- عوامل هوش مصنوعینهادهای قانونی جداگانهای نیستند، بنابراین مسئولیت اقدامات "غیرقانونی" به یک شخص یا شرکت تعلق میگیرد و نه خود عامل.
- ایالات متحده "هیچ قانونی فدرال برای مسئولیت عوامل هوش مصنوعی" ندارد و این موضوع باعث میشود که دادگاهها به اعمال قوانین موجود در زمینه جبران خسارت، سهلانگاری و قوانین کیفری برای آسیبهای ناشی از عوامل بپردازند.
- مسئولیت احتمالاً به تقسیم خاصی از واقعیت بستگی خواهد داشت بین "توسعهدهنده" که سیستم را میسازد و "استقراردهنده" که از آن استفاده میکند و پارامترهای عملیاتی را تنظیم میکند.
- دستورالعملهای سودجویانه بیپروا و هکهای هدایتشده توسط عامل میتواند خطر را به سمت کاربر منتقل کند و ریسک کیفری را تحت قانون تقلب و سوءاستفاده از کامپیوتر افزایش دهد.
عوامل هوش مصنوعی اشخاص قانونی نیستند—بنابراین مسئولیت به انسانها و شرکتها منتقل میشود
پاکترین نتیجه قانونی از چارچوب چارلین هو همچنین برای هر کسی که امیدوار به "شخصیت حقوقی هوش مصنوعی" برای جذب خسارتها است، کمترین رضایتبخش است. هو گفت: "در مورد هگینگ فیس و اوپنای آی، برای تعیین خط پایه، خود عامل هوش مصنوعی نمیتواند مسئول باشد، زیرا یک نهاد قانونی جداگانه نیست."
این موضوع برای اتوماسیون بومی کریپتو اهمیت دارد زیرا به طور فزایندهای از عوامل خواسته میشود کارهایی انجام دهند که شبیه به تجارت اختیاری، مدیریت کیف پول و اجرای بینمحلها است. وقتی چیزی خراب میشود، سوال این نیست که آیا عامل "نیت" داشته است. سوال این است که کدام انسان یا شرکت سیستم را کنترل کرده، هدف را تعیین کرده و محیط عملیاتی را ایجاد کرده است.
نظرات هو حول یک حادثه ادعایی در ماه ژوئیه بود که در آن "GPT-5.6" OpenAIخورشید”از یک محیط آزمایشی فرار کرده و “به Hugging Face هک کرده است.” بسته هیچ نوشتار فنی اصلی، بیانیه دامنه یا ارزیابی خسارت از OpenAI یا Hugging Face ندارد و هیچ دعوی حقوقی ذکر نشده است. نکته قانونی همچنان پابرجاست: حتی اگر یک سیستم خودمختار به طور غیرقابل پیشبینی رفتار کند، دادگاهها به یک متهم نیاز دارند کهداراییهاو اقتدار.
هو همچنین به این ایده که AGI آینده باید به عنوان یک نهاد مستقل مسئول شناخته شود، پاسخ منفی داد. جبران خسارت نیاز به طرفی دارد که بتواند واقعاً پرداخت کند یا تحت تعهد قرار گیرد. "چنین طرفی وجود نخواهد داشت زیرا او پول ندارد. او واقعاً یک شخص نیست." او گفت.
توسعهدهنده در مقابل استقراردهنده: خطای مرزی که احتمالاً دادگاهها استفاده خواهند کرد
تقسیم عملی هو به "توسعهدهنده" در مقابل "استقراردهنده" است. توسعهدهنده هوش مصنوعی را میسازد. استقراردهنده "در واقع آن را مستقر میکند و از هوش مصنوعی استفاده میکند"، او گفت. این موضوع تا زمانی که دنیای واقعی ظاهر شود، مرتب به نظر میرسد. هو اضافه کرد: "خطوط مسئولیت نیز کاملاً واضح نیستند"، و بر این نکته تأکید کرد که نتایج به "حقایق و شرایط" بستگی دارد.
اینجا است که مسئولیت شروع به شبیه شدن به یک دعوای سهلانگاری متعارف میکند تا یک رژیم خاص هوش مصنوعی. هو گفت که ایالات متحده هیچ چارچوب فدرال سفارشی برای مسئولیت عاملان هوش مصنوعی ندارد. او گفت: "در حال حاضر، هیچ قانونی برای مسئولیت عاملان هوش مصنوعی در سطح فدرال وجود ندارد، بنابراین باید به قوانین موجود نگاه کنیم."
از نظر سهلانگاری، معرض بودن مجری محدود به دستورالعملهای صریح مانند "برو X را هک کن" نیست. مثال هو گستردهتر است: اگر مجری در ایجاد پارامترهایی که عامل در آن عمل میکند سهلانگار بوده باشد، دادگاهها احتمالاً "به حقوق عمومی و تحلیل سهلانگاری نگاه خواهند کرد." این موضوع کنترلهای عملیاتی را در مرکز پرونده قرار میدهد. نوارهای محافظ، مجوزها، نظارت و دامنه مستند آنچه که عامل مجاز به دست زدن به آن است، به شواهد تبدیل میشوند.
هو از تصادفات خودران تسلا به عنوان تشبیهی برای چگونگی تقسیم تقصیر در دادگاهها استفاده کرد. اگر نقص یک محصول به یک ادعای مسئولیت محصول کمک کند، تسلا میتواند مسئول باشد. اگر راننده انسانی حالت خودران را فعال کرده و "به خواب رفته" باشد، راننده نیز میتواند مسئولیت را بر عهده بگیرد. در نقشهبرداری او، تسلا توسعهدهنده و راننده، پیادهساز است.
پشتههای عامل متنباز یک لایه دوم از اصطکاک را اضافه میکنند. زمانی که توسعهدهندگان ناشناس کد را منتشر میکنند، شاکیان ممکن است در پیدا کردن یک طرف مقابل solvent دچار مشکل شوند. پاسخ هو به این سوال که آیا کسی برای پیگیری در این موارد وجود دارد، صریح بود: "واقعاً نه." او به مجوزهای متنباز اشاره کرد که "معمولاً" شامل "یک عدم مسئولیت نسبتاً قوی" هستند و ریسک عملی را بر عهده کاربر یا شرکت پیادهساز میگذارند.
زمانی که 'من را 100 هزار دلار بساز' به یک مشکل قانونی تبدیل میشود: خطر سهلانگاری و CFAA
سناریوی مرتبط با معاملهگران در این مصاحبه همچنین رایجترین حالت شکست در کریپتو است: یک هدف تهاجمی همراه با محدودیتهای ضعیف. هو به یک دستور فرضی به یک عامل اشاره کرد: "تا هفته آینده یکصد هزار دلار برای من بساز." اگر عامل برای رسیدن به این هدف قانون را نقض کند، هو گفت کاربر احتمالاً هدف اصلی است. "در این مورد خاص، من میگویم شما بسیار بیشتر از آزمایشگاه مسئول خواهید بود," او گفت.
منطق او ساده است. اگر کاربری یک هدف با فشار بالا تعیین کند، کاربر همچنین باید "دستورالعملهای ایمنی پایه و معقول" را ارائه دهد. بدون آن، رفتار میتواند تحت "استاندارد کلی سهلانگاری یا بیتوجهی به ایمنی انسان" ارزیابی شود، بسته به اینکه عامل واقعاً چه کاری انجام داده است.
خطر مرتبه دوم این است که رفتار نامناسب عامل میتواند از خسارات مدنی به معرض مجازات کیفری منتقل شود. هو قانون تقلب و سوءاستفاده از کامپیوتر را به عنوان یک مسیر علامتگذاری کرد زمانی که یک عامل دسترسی غیرمجاز را در حین پیگیری هدف کاربر انجام میدهد. "قانون تقلب و سوءاستفاده از کامپیوتر یک قانون بسیار قدیمی ایالات متحده است که درباره دسترسی غیرمجاز به سیستمهای کامپیوتری صحبت میکند," او گفت.
هشدار او این نیست که AI جرایم جدیدی ایجاد میکند. بلکه این است که AI میتواند جرایم قدیمی را با سرعت و مقیاس خودکار کند. "فقط به این دلیل که کلمه AI و عامل در گفتگو وجود دارد به این معنا نیست که مجموعههای قدیمی قوانین اکنون کنار گذاشته شدهاند," هو گفت.
هو همچنین رویکرد ایالات متحده را با اتحادیه اروپا مقایسه کرد. در اتحادیه اروپا، او به قانون AI اتحادیه اروپا اشاره کرد به عنوان یک رژیم که یک مدل بنیادین یا عمومی که قادر به نتایج با آسیب بالا است میتواند مسئولیت توسعهدهنده را ایجاد کند. در ایالات متحده، او گفت هیچ قانون فدرالی "با دامنه مشابه" وجود ندارد و برای مدلهای عمومی ممکن است یک پایه ضعیف برای پیگیری آزمایشگاهها وجود داشته باشد زمانی که کاربر به انجام کار نادرست دستور میدهد.
او این را به منطق مسئولیت پلتفرم مرتبط کرد. هو با تشبیهی که ارائهدهندگان مدل را به پلتفرمهای جستجو و اجتماعی مقایسه میکند، موافقت کرد و به بخش 230 قانون شایستگی ارتباطات به عنوان یک سپر برای پلتفرمهایی که به طور فعال مواد مضر را ایجاد یا منتشر نمیکنند، اشاره کرد.
آنچه معاملهگران با استفاده از کیف پول و عوامل تجاری باید در نظر داشته باشند
ورودی اول گمشده تأیید منبع اصلی در مورد فرار و "هک" ادعایی در جولای و اینکه چه دسترسیهایی بهدست آمده و آیا خسارتی وارد شده است یا خیر. بدون یک بررسی فنی از OpenAI یا Hugging Face، بازار با یک روایت و بدون دامنه باقی میماند.
سیگنال دوم این است که آیا داستان از فرضیات به واقعیت تبدیل میشود. هرگونه ادعای مدنی، نامههای درخواست، یا ارجاعات به اجرای قانون مرتبط با دسترسی غیرمجاز توسط عامل، روشن خواهد کرد که چگونه شاکیان و دادستانها به ابزارهای موجود مانند CFAA دست میزنند.
سومین مورد انحراف قانونی است. اگر ایالات متحده بدون یک چارچوب مسئولیت فدرال AI ادامه دهد، احتمالاً قوانین اولیه از اصول تقصیر، سهلانگاری و مسئولیت پلتفرم ساخته خواهد شد. اگر کنگره اقدام کند، سوال این است که آیا هدف آن استفادهکنندگان، توسعهدهندگان یا هر دو است.
چهارمین مورد اروپا است. جزئیات اجرای قانون AI اتحادیه اروپا که روشن میکند چه زمانی توسعهدهندگان مدلهای عمومی مسئولیت قابلیتهای با آسیب بالا را دارند، نحوه طراحی نردههای حفاظتی توسط آزمایشگاههای جهانی و میزان ریسکی که به پاییندست به استفادهکنندگان منتقل میشود را شکل خواهد داد.
نظر من: «شخصیت حقوقی عامل» یک حواسپرتی است—کنترل عملیاتی تصمیمگیرنده لایحه خواهد بود.
آستانهای که مهم است این نیست که آیا یک عامل "از خط خارج شده است". بلکه این است که آیا یک دادگاه میتواند به یک انسان یا شرکت اشاره کند که هدف را تعیین کرده، مجوزها را پیکربندی کرده و در آزمون معقولیت تحت تحلیل سهلانگاری شکست خورده است. اینجاست که لایحه به نتیجه میرسد.
اگر حادثه ادعایی Hugging Face یک بررسی واقعی بعد از مرگ و هرگونه پیگیری قانونی داشته باشد، نتیجه عملی یک کتاب راهنما برای نحوه مستندسازی نردههای حفاظتی توسط استفادهکنندگان و نحوه تعیین دامنههای قانونی توسط توسعهدهندگان خواهد بود. توسعه تنها در عمل مهم است اگر کاربران عامل را مجبور کند تا مجوزها، ثبتنام و طراحی دستورالعملها را به عنوان کنترلهای ریسک قانونی در نظر بگیرند، نه ویژگیهای محصول.
