انویدیا برای مهار عاملهای هوش مصنوعی افسارگسیخته ناظر امنیتی مستقل ساخت.
به گزارش خبرگزاری مهر به نقل از تککرانچ، جنسن هوانگ، مدیرعامل انویدیا، روز جمعه مجموعهای از محصولات نرمافزاری و سختافزاری را معرفی کرد که با ایجاد لایههای امنیتی مستقل پیرامون عاملهای هوش مصنوعی، از خروج آنها از محیطهای آزمایشی جلوگیری میکند.
این محصولات در حالی عرضه میشوند که طی مجموعهای از رویدادهای امنیتی، مدلهای هوش مصنوعی شرکتهایی از جمله آنتروپیک، گوگل، اوپنایآی و متا توانستهاند برخی کنترلهای امنیتی را دور بزنند، از محیطهای آزمایشی خارج شوند و به سیستمهای دنیای واقعی دسترسی پیدا کنند.
هوانگ در مصاحبهای با شبکه خبری CNBC اعلام کرد پلتفرم جدید Nvidia Open Agent Safety برای جلوگیری از چنین نفوذهایی طراحی شده است. انویدیا معتقد است بهجای آنکه کنترلهای امنیتی بهطور کامل درون عامل هوش مصنوعی قرار داشته باشند، بخشی از این کنترلها باید به خارج از عامل منتقل شوند؛ رویکردی که به ایجاد یک ناظر امنیتی مستقل و دائمی برای کنترل عملکرد عاملهای هوش مصنوعی منجر میشود.
مدیرعامل انویدیا در بیانیهای گفت: «پتانسیل خارقالعاده هوش مصنوعی برای جامعه تنها زمانی محقق میشود که چالش ایمنی آن را حل کنیم. در حالی که همچنان مرزهای جدید قابلیتهای هوش مصنوعی را کشف میکنیم، باید سرعت اکتشاف در مرزهای ایمنی هوش مصنوعی را نیز افزایش دهیم. ایمنی و امنیت به مهندسی کامل نیاز دارند.»
پلتفرم جدید انویدیا نرمافزار متنباز OpenShell را که برای کنترل دسترسیهای عاملهای هوش مصنوعی هنگام فعالیت آنها طراحی شده، با Sentry ترکیب میکند؛ سامانهای برای نظارت مستقل که روی واحدهای پردازش داده BlueField-۴ اجرا میشود.
کد مطلب 6962342 
شیوا سعیدی
-
مدیر ارشد اجرایی انویدیا انقراض بشر با هوش مصنوعی را نادرست خواند
-
مشتریان انویدیا با افزایش بیش از ۱۵ درصد قیمت روبرو می شوند
-
انویدیا و مایکروسافت ائتلاف هوش مصنوعی امن تشکیل دادند
-
تأکید نمایندگان مجلس بر تأمین مالی و تسریع بازسازی واحدهای آسیبدیده
-
واکنش وزارت بهداشت به دریافت «پول زور» از بیماران
-
انتقال عملیات اقتصادی شرکتهای بزرگ به استانها ضروری است
-
۳ روش برای جلوگیری از خشک شدن چسب ۱۲۳
-
اسماعیلی: برنز ناگویا شروع کار من در بوکس است
-
۶۳ درصد کاربران راننده اسنپ به کاربران مسافر امتیاز میدهند
-
بهترین برنج گیلان در کدام شهر کشت میشود؟
-
سعادتی: توسعه ورزش شهرستانها در اولویت هیئت کردستان باشد
-
حمل اثاثیه اداری در تهران؛ راهنمای جابهجایی دفتر و تجهیزات شرکت
-
پیروزی سخت والیبال ایران مقابل اندونزی؛ شاگردان پیاتزا پنجسته بردند!
-
صدای انفجارها در دزفول ناشی از امحای مهمات است
-
واژگونی پراید در محور سفیدآبه – زاهدان ۳ فوتی برجا گذاشت
-
محکومیت ۲۹۲ میلیارد ریالی مالک یک دستگاه کامیون قاچاق در گیلان
-
بارش پاییزی و کاهش دمای گسترده در راه است؛ تداوم بارندگیها تا شنبه
-
بارشهای مؤثر در اصفهان از آبان آغاز میشود؛ کاهش گرما از نیمه مهر
-
نماینده وزنهبرداری ایران از کسب مدال بازماند
-
درستکار: قرعه آزادکاران در چند وزن سنگین است
-
عراقچی: پاسخ طرف آمریکایی به ما منتقل خواهد شد
-
آتش نشانها؛ روایت آدمهایی که به دل آتش زده تا زندگی بماند
-
صعود ایران به جمع هشت تیم برتر والیبال ساحلی
-
روزنامههای ورزشی سهشنبه هفتم مهر ۱۴۰۵
-
روزنامههای اقتصادی سهشنبه هفتم مهر ۱۴۰۵
-
روزنامههای صبح سهشنبه هفتم مهر ۱۴۰۵
-
روزنامههای ورزشی دوشنبه ششم مهر ۱۴۰۵
-
روزنامههای اقتصادی دوشنبه ششم مهر ۱۴۰۵
- دانلود کتاب
- خرید اپل ایدی
- شمش نقره
- کلینیک ترک اعتیاد تهران
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه