شورای غول های فناوری برای توسعه هوش مصنوعی مسئول
به گزارش توسعه دهندگان، شرکتهای گوگل، مایکروسافت، اپل، متا و دیگر شرکتهای بزرگ فناوری به کنسرسیوم ایالات متحده می پیوندند تا «هوش مصنوعی مسئول» را ارتقاء دهند. این گروه روی اجرای اقدامات یاد شده در فرمان اجرایی اخیر جو بایدن، رئیس جمهور آمریکا کار خواهد نمود.
به گزارش توسعه دهندگان به نقل از ایسنا، مجموعه کاملی از شرکتهای بزرگ دنیای فناوری شامل ۲۰۰ شرکت در چارچوب یک کنسرسیوم به تلاشهای ایالات متحده برای پیشبرد شیوه های هوش مصنوعی مسئولانه پیوسته اند.
کنسرسیوم مؤسسه ایمنی هوش مصنوعی ایالات متحده(AISIC) شرکتهای متا، گوگل، مایکروسافت و اپل را بعنوان اعضای خود می بیند.
به نقل از انگجت، جینا ریموندو، وزیر بازرگانی آمریکا اعضای جدید و مختلف این کنسرسیوم را اعلام نمود و گفت آنها موظف به انجام اقداماتی هستند که در فرمان اجرایی فراگیر رئیس جمهور بایدن در زمینه هوش مصنوعی مشخص شده است.
ریموندو در اطلاعیه ای اظهار داشت: دولت ایالات متحده نقش مهمی در تنظیم استانداردها و توسعه ابزارهای مورد نیاز برای کاهش خطرات و استفاده از پتانسیل عظیم هوش مصنوعی دارد.
فرمان اجرایی بایدن که در ماه اکتبر ۲۰۲۳ صادر شد، شامل موارد گسترده ای بود. ازاین رو این کنسرسیوم روی توسعه دستورالعمل هایی برای «رد تیمینگ» (Red-teaming)، ارزیابی قابلیت ها، مدیریت خطر، ایمنی و امنیت و واترمارک کردن محتوای ساخته شده توسط هوش مصنوعی تمرکز خواهد نمود.
رد تیمینگ یک اصطلاح در امنیت سایبری است که به دوران جنگ سرد باز می گردد و به شبیه سازی هایی اشاره دارد که در آن دشمن «تیم قرمز» نامیده می شود. در شرایط کنونی، دشمن یک هوش مصنوعی در نظر گرفته می شود که می تواند بد رفتار کند.
کسانی که درگیر این عمل هستند، تلاش می کنند هوش مصنوعی را فریب دهند تا کارهای بدی مانند افشای شماره کارت های اعتباری از راه هک سریع انجام دهد. حال هنگامی که مردم بدانند چگونه با این مورد مقابله کنند، می توانند حفاظت های بهتری ایجاد کنند.
واترمارک کردن(Watermarking) محتوای ساخته شده توسط هوش مصنوعی هم یکی دیگر از جنبه های مهم فرمان اجرایی جو بایدن است. ازاین رو اعضای کنسرسیوم دستورالعمل ها و اقداماتی را برای اطمینان از این که کاربران می توانند به سادگی محتوای تولیدشده توسط هوش مصنوعی را شناسایی کنند، توسعه خواهند داد.
آنها امیدوارند با این کار، میزان فریبکاری جعل عمیق (deep fake) و اطلاعات غلط تقویت شده با هوش مصنوعی کاهش پیدا کند. واترمارک کردن دیجیتال هنوز به صورت گسترده مورد پذیرش قرار نگرفته است، باآنکه این برنامه مشخصات فنی زیربنایی پشت این عمل را تسهیل و استانداردسازی می کند.
کار این کنسرسیوم تازه شروع شده است، باآنکه وزارت بازرگانی آمریکا می گوید این کنسرسیوم بزرگترین مجموعه تیم های آزمایش و ارزیابی را در جهان دارد.
فرمان اجرایی بایدن و این کنسرسیوم تقریبا تمام چیزی است که هم اکنون در اختیار داریم. ضمن اینکه کنگره آمریکا همچنان در تصویب قوانین معنادار در حوزه هوش مصنوعی ناکام مانده است.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب