یوشوا بنجیو به پروژه ایمنی هوش مصنوعی بریتانیا پیوست؛ گام بزرگی برای پیشگیری از خطرات فناوری, یوشوا بنجیو، دانشمند مشهور کانادایی و برنده جایزه تورینگ در سال ۲۰۱۸ که به عنوان یکی از پدرخواندههای هوش مصنوعی مدرن شناخته میشود، به عنوان مدیر علمی به پروژه AI در بریتانیا ملحق شده است.
این اقدام با هدف تقویت امنیت مدلهای هوش مصنوعی و پیشگیری از پیامدهای فاجعهباری که ممکن است ناشی از تکامل کنترلناپذیر این فناوری باشد، انجام شده است. اهداف و ابعاد پروژه AI این پروژه چهار ساله که توسط آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA) با بودجه ۵۹ میلیون پوند حمایت مالی میشود، رویکردی نوین برای ایمنی هوش مصنوعی را دنبال میکند.
مقصد اصلی، ساخت یک سیستم هوش مصنوعی است که قادر باشد امنیت و عملکرد سایر سیستمهای هوش مصنوعی را ارزیابی کرده و ضمانتهای کمّی مبتنی بر ریسک ارائه دهد. برخلاف روشهای سنتی، این رویکرد از مدلهای علمی و اثباتهای ریاضی به عنوان پایه اطمینان از رفتار سیستمها بهره میگیرد. مدیر پروژه تأکید کرده که شرکتهای فناوری در حال حاضر فاقد مکانیزمهای مطمئن ریاضی برای ضمانت اجرای صحیح برنامهها توسط سیستمهای هوش مصنوعی هستند.
او هشدار میدهد که عدم اطمینان از عملکرد این مدلها میتواند نتایج فاجعهآمیزی به دنبال داشته باشد؛ از این رو، توسعه معیارهای ریاضی سختگیرانه برای سنجش امنیت، اولویت اصلی این برنامه محسوب میشود.
فراتر از روشهای سنتی تیم قرمز و اثباتهای صوری بنجیو و تیم پروژه استدلال میکنند که تکنیکهای رایج فعلی مانند تیم قرمز که در آن افراد به صورت دستی نقایص سیستمها را کشف میکنند، محدودیتهای جدی دارد و برای سیستمهای حیاتی و پیچیده کافی نیست. آنها امیدوارند با تمرکز بر ارامش ریاضی و کاهش وابستگی به نظارت انسانی، مسیرهای جدیدی برای ایمنسازی هوش مصنوعی بگشایند که مقیاسپذیر و قابل اعتمادتر باشند.
آخرین مطالب
- واژگونی ۴ موتورسیکلت روی پل روشندلان؛ چهار مصدوم راهی بیمارستان شدند – غروب شهر
- رئیسی: تعداد تولدها به زیر یک میلیون رسیده است – غروب شهر
- بوستانی: ورود پزشکان متخصص، نفس تازهای برای درمان خوزستان است – غروب شهر
- ورود سازمان بازرسی به پرونده مطالبات پرستاران + فیلم – غروب شهر
- معیشت و دغدغه مالی؛ مهم ترین چالش جراحان عمومی – غروب شهر
در همین راستا، آژانس ARIA تصمیم گرفته تا در سال اول ۵.۴ میلیون پوند و در سال دوم ۸.۲ میلیون پوند را برای حمایت از سازمانها و افراد فعال در بخشهای پرخطرمانند حملونقل، مخابرات، زنجیره تأمین و تحقیقات پزشکی اختصاص دهد. این سرمایهگذاریها ằm توسعه برنامههایی است که میتوانند از مکانیسمهای ایمنی نوظهور هوش مصنوعی بهرهمند شوند و استانداردهای جدید امنیت را در صنایع حیاتی تثبیت کنند.