ویلیام ساندرز و دانیل کوکوتاجلو، کارمندان سابق OpenAI ، نامه‌ای به گاوین نیوسام، فرماندار کالیفرنیا نوشتند و استدلال کردند که مخالفت شرکت با لایحه ایالتی که دستورالعمل‌ها و پروتکل‌های ایمنی سخت‌گیرانه‌ای را در توسعه آینده هوش مصنوعی اعمال می‌کند، ناامیدکننده است اما تعجب‌آور نیست.
ساندرز و کوکوتاجلو نوشتند: «ما به OpenAI پیوستیم زیرا می‌خواستیم از ایمنی سیستم‌های هوش مصنوعی فوق‌العاده قدرتمندی که این شرکت در حال توسعه است اطمینان حاصل کنیم. اما ما از OpenAI استعفا دادیم زیرا اعتمادمان به توسعه ایمن، صادقانه و مسئولانه سیستم های هوش مصنوعی خود را از دست دادیم.
این دو استدلال می‌کنند که توسعه بیشتر بدون نرده‌های محافظ کافی «خطرات قابل پیش‌بینی آسیب فاجعه‌بار برای عموم به همراه دارد»، چه این «حملات سایبری بی‌سابقه یا کمک به ایجاد سلاح‌های بیولوژیکی».
این دو همچنین به سرعت به ریاکاری سام آلتمن، مدیر عامل OpenAI در مورد مقررات اشاره کردند. آنها به شهادت اخیر او در کنگره در مورد تنظیم صنعت هوش مصنوعی اشاره می کنند، اما خاطرنشان می کنند "وقتی مقررات واقعی روی میز باشد، او با آن مخالف است."
طبق نظرسنجی سال 2023 توسط شرکت MITER و نظرسنجی هریس، تنها 39٪ از پاسخ دهندگان معتقد بودند که فناوری هوش مصنوعی امروزی "ایمن و ایمن" است.
لایحه مورد بحث، SB-1047، قانون نوآوری ایمن و ایمن برای مدل‌های مصنوعی مرزی، «از جمله موارد دیگر، مستلزم آن است که یک توسعه‌دهنده، قبل از شروع آموزش اولیه یک مدل تحت پوشش، از الزامات مختلف، از جمله اجرای قابلیت پیروی کند. برای اجرای سریع خاموش شدن کامل … و اجرای یک پروتکل ایمنی و امنیتی مکتوب و جداگانه. OpenAI در سال‌های اخیر دچار نشت داده‌ها و نفوذهای سیستمی متعددی شده است.
همانطور که یکی از سخنگویان به Business Insider گفت، گزارش شده است که OpenAI به شدت با "توصیف نادرست موقعیت ما در مورد SB 1047" توسط محققان مخالف است. جیسون کوون، مدیر ارشد استراتژی OpenAI در نامه ای به این شرکت گفت: این شرکت در عوض استدلال می کند که "مجموعه ای از سیاست های هوش مصنوعی مبتنی بر فدرال، به جای مجموعه ای از قوانین ایالتی، نوآوری را تقویت می کند و ایالات متحده را برای رهبری توسعه استانداردهای جهانی قرار می دهد." سناتور ایالت کالیفرنیا اسکات وینر در ماه فوریه.
ساندرز و کوکوتاجلو مخالفت می کنند که فشار OpenAI برای مقررات فدرال با حسن نیت نیست. این زوج نوشتند: "ما نمی توانیم منتظر باشیم تا کنگره اقدام کند – آنها به صراحت گفته اند که مایل به تصویب مقررات معنی دار هوش مصنوعی نیستند." "اگر آنها چنین کنند، می تواند جلوی قانون CA را بگیرد."
این لایحه از سوی یک منبع شگفت‌انگیز نیز پشتیبانی شده است: ایلان ماسک، مدیر عامل xAI. او در روز دوشنبه در X نوشت : «این یک تماس سخت است و باعث ناراحتی برخی از مردم می‌شود، اما با در نظر گرفتن همه چیز، فکر می‌کنم کالیفرنیا احتمالاً باید لایحه ایمنی SB 1047 AI را تصویب کند. برای بیش از 20 سال، من مدافع مقررات هوش مصنوعی بودم، همانطور که هر محصول/تکنولوژی را که یک خطر بالقوه است، تنظیم می کنیم. ماسک که اخیراً از ساخت «قوی‌ترین خوشه آموزشی هوش مصنوعی در جهان» در ممفیس، تنسی خبر داده بود ، قبلاً تهدید کرده بود که مقر شرکت‌های X (توئیتر سابق) و SpaceX خود را به تگزاس منتقل می‌کند تا از مقررات صنعتی در کالیفرنیا فرار کند.
به روز رسانی: این پست برای درج نظرات ایلان ماسک به روز شده است.
