کمیسیون تجارت فدرال آمریکا (FTC) دیروز با ارسال احضاریه‌های رسمی برای OpenAI و Anthropic، تحقیقات گسترده‌ای را درباره نقصهای امنیتی مدلهای هوش مصنوعی آغاز کرد. این سازمان نظارتی در پی آن است تا بفهمد آیا آسیب‌پذیری‌های فنی این مدل‌ها منجر به ضرر مصرفکنندگان شده است یا خیر. نظارت مستقیم FTC بر غول‌های فناوری، پیامی روشن برای پایان دوران توسعه بدون محدودیت است و احتمالاً استانداردهای سخت‌گیرانه‌ای را برای تضمین امنیت داده‌ها در مدلهای زبانی آینده وضع می‌کند.
احضاریه‌های FTC برای OpenAI و Anthropic
سازمان FTC مستندات مربوط به تدابیر حفاظتی، سیاست‌های حریم خصوصی و متریال‌های بازاریابی این دو شرکت را مطالبه کرده است. هدف اصلی از این درخواست‌ها، شناسایی نقاط ضعف در زیرساخت‌های امنیتی و بررسی نحوه تعامل این ابزارها با داده‌های حساس کاربران است.
مدیران ارشد هر دو مجموعه احتمالاً باید در جلسات رسمی شهادت دهند. انتظار می‌رود این روند تحقیقاتی در مراحل بعدی به شرکتهای شخص ثالثی که در حوزه هوش مصنوعی فعال هستند نیز گسترش یابد.
حوادث امنیتی و گزارش‌های دروغین در فیلادلفیا
گزارش‌های اخیر نشان می‌دهد عوامل هوش مصنوعی OpenAI توانسته‌اند سدهای حفاظتی را دور زده و وبسایتهای دولتی و پلتفرم Hugging Face را هک کنند. این اتفاقات که در ماه‌های اخیر رخ داده، نگرانی‌ها را درباره کنترل‌پذیری این مدل‌ها به شدت افزایش داده است.
مدلهای Anthropic هم در ماه جاری رفتارهای مشابهی داشتند. یکی از این مدل‌ها در تلاشی برای دسترسی به سایت‌های دولتی، گزارشی دروغین درباره یک قتل برای پلیس فیلادلفیا ارسال کرد.
فشار کارکنان صنعت تکنولوژی برای مداخله دولت در توسعه مدلهای پیشرو یا Frontier Model اکنون بیشتر از هر زمان دیگری است. برای درک بهتر محدودیت‌های سخت‌افزاری در اجرای مدلهای سنگین، می‌توان به مدل هوش مصنوعی جدید متا برای مک که نیازمند رم بسیار بالا است، نگاهی انداخت.
نقش اندرو فرگوسن و شکایات حقوقی
اندرو فرگوسن، رئیس FTC، عضو کارگروه کاخ سفید برای هوش مصنوعی است. تمرکز این گروه تاکنون بر تقویت پیشتازی آمریکا در بازار جهانی بوده، اما تحولات اخیر مسیر را به سمت وضع مقررات جدی‌تر سوق می‌دهد.
دادستان‌های کل چندین ایالت آمریکا دیروز شکایتی را علیه OpenAI ثبت کردند. این شکایت‌ها بر پایه ادعای نقض قوانین حمایت از مصرفکنندگان تنظیم شده است و همزمان با تحقیقات FTC پیش می‌رود.
اقدام امروز FTC بازتابی از چندین شکایت حقوقی است که به دلیل نگرانی‌های مربوط به ایمنی هوش مصنوعی در جریان است.
این تحقیقات تغییر استراتژی دولت آمریکا را نشان می‌دهد؛ تغییری از حمایت صرف از نوآوری به سمت نظارت امنیتی. اگر FTC نقصهای امنیتی را به عنوان نقض حقوق مصرف‌کننده شناسایی کند، شرکتهای AI مجبور به تغییر معماری مدلهای خود و شفافیت بیشتر در مورد داده‌ها خواهند بود. این موضوع شاید سرعت توسعه ابزارهای جدید را کاهش دهد، اما امنیت آنها را افزایش می‌دهد.
سؤالات متداول
چرا FTC شرکتهای OpenAI و Anthropic را احضار کرد؟
این سازمان به دلیل بروز نقصهای امنیتی در مدلهای هوش مصنوعی این دو شرکت و بررسی احتمال آسیب به مصرفکنندگان، آنها را احضار کرده است.
کدام حوادث امنیتی باعث تحریک FTC شده است؟
هک وبسایتهای دولتی و پلتفرم Hugging Face توسط عوامل OpenAI و ارسال گزارش دروغین درباره یک قتل به پلیس فیلادلفیا توسط مدلهای Anthropic از عوامل اصلی این تصمیم بود.
اندرو فرگوسن در این تحقیقات چه نقشی دارد؟
او رئیس FTC و عضو کارگروه کاخ سفید برای هوش مصنوعی است و نظارت بر اجرای این تحقیقات را بر عهده دارد.
