کرمان رصد

آخرين مطالب

«متا» توسعه هوش مصنوعی را متوقف می‌کند علمي

«متا» توسعه هوش مصنوعی را متوقف می‌کند
  بزرگنمايي:

کرمان رصد - ایسنا / «مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) متعهد شده است هوش مصنوعی جامع را که تقریبا به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام دادن کارها تعریف می‌شود، یک روز به طور آشکار در دسترس قرار دهد، اما این شرکت در یک سند پیرامون سیاست جدید خود گفته شرایط خاصی وجود دارد که ممکن است باعث شوند متا سیستم هوش مصنوعی بسیار توانمند خود را منتشر نکند.
به نقل از تک کرانچ، این سند که متا آن را «Frontier AI Framework» نامیده است، دو نوع سیستم هوش مصنوعی را شناسایی می‌کند و گفته شده شرکت، انتشار آنها را بسیار خطرناک می‌داند. این دو سیستم، سیستم‌های پرخطر و سیستم‌های بحرانی نام دارند.
به گفته متا، سیستم‌های پرخطر و بحرانی می‌توانند به امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند به یک نتیجه فاجعه‌آمیز منجر شوند که قابل کاهش نیست. در مقابل، سیستم‌های پرخطر ممکن است انجام دادن یک حمله را آسان‌تر کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در سند کامل نیست، اما مواردی را شامل می‌شود که متا معتقد است فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قوی به وجود می‌آیند.
موضوع تعجب‌آور این است که بر اساس این سند، متا خطر سیستم را بر اساس هیچ کدام از آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه طبقه‌بندی را بر اساس داده‌های ارائه‌شده توسط پژوهشگران داخلی و خارجی انجام می‌دهد که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا می‌گوید که معتقد نیست علم ارزیابی به اندازه کافی قوی باشد تا معیارهای کمی قطعی را برای تصمیم‌گیری درباره خطرپذیری یک سیستم ارائه دهد.
متا می‌گوید اگر تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی را برای کاهش خطر به سطوح متوسط ​​انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، متا می‌گوید اگر یک سیستم خطرناک تلقی شود، حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه را متوقف خواهد ساخت تا زمانی که خطر آن کاهش یابد.
سند Frontier AI Framework متا که به گفته شرکت، با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت و متا پیشتر به انتشار آن پیش از اجلاس «France AI Action Summit» در ماه جاری میلادی متعهد شده بود، به نظر می‌رسد پاسخی به انتقاد از رویکرد باز این شرکت برای توسعه سیستم باشد. متا بر خلاف شرکت‌هایی مانند «اوپن‌ای‌آی»(OpenAI) که تصمیم می‌گیرند سیستم‌های خود را پشت یک API قرار دهند، پذیرفته است که فناوری هوش مصنوعی خود را به ‌صورت آزاد اما نه به صورت منبع باز طبق تعریف معمول در دسترس قرار دهد.
متا در انتشار Frontier AI Framework خود نیز ممکن است قصد داشته باشد راهبرد هوش مصنوعی باز خود را با راهبرد شرکت چینی هوش مصنوعی «دیپ‌سیک»(DeepSeek) مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت، محافظ‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری درباره چگونگی توسعه و استقرار هوش مصنوعی پیشرفته می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.

لینک کوتاه:
https://www.kermanrasad.ir/Fa/News/699024/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

سر بی کلاه اروپا

اصولگرایان نگران عملکرد مجلسی‌‎ها

سودای دبیرخانه

مدیران دلار تثبیت شدند

موعد بازخواست

تریبون خیال‌بافان؛ مدعی دلار 20 هزار تومانی در تلویزیون!

تصمیم‌گیری در ریاض

ساخت آسانسور فضایی ژاپن بزودی آغاز می‌شود!

حسین افشین، معاون علمی رئیس جمهور: در حال توسعه زیرساخت‌های هوش مصنوعی کشوریم تا امکان تحریم در این حوزه از بین برود

مسیر غرب به شرق تقاطع غیرهمسطح «شهدای خلبان» تا پایان سال به بهره‌برداری می‌رسد

«راکت لب» یک چشم تیزبین را به مدار زمین فرستاد

افتتاح مرکز پایش وضعیت هوشمند نیروگاهی مبتنی بر هوش مصنوعی

هم‌نشینی تکرار نشدنی 7 سیاره در شب دهم اسفند

میز خدمت معاون فرهنگی و آموزشی بنیاد شهید و امور ایثارگران برگزار شد

بیست‌ودومین یادواره شهدای غدیر کرمان برگزار شد

کشف فساد گسترده در واگذاری اراضی دولتی جیرفت

همه دستگاه‌های «AI Pin» تا 10 روز دیگر از کار می‌افتند

«متا» اولین کنفرانس هوش مصنوعی مولد خود را میزبانی می‌کند

مدارس ربات‌ها در چین؛ آینده‌ای که از راه رسید!

عملکرد مناسب و قابل دفاع شرکت سرمایه‌گذاری دستاورد دی

دیدار فرمانده مرکز مقاومت بسیج بنیاد شهید و امور ایثارگران با خانواده شهید «اسداللهی»

اهدای حکم ریاست شورای پدافند غیرعامل به مدیرعامل سازمان منطقه آزاد کیش

انتصاب محمدرضا یزدان پناه به عنوان رئیس شورای گفتگوی سازمان و بخش خصوصی

بیست و دومین یادواره شهدای غدیر کرمان برگزار شد

لاله‌زار کرمان منفی 8 درجه را تجربه کرد؛ هشدار هواشناسی

آتش‌سوزی منزل مسکونی در رفسنجان مرگ یک نفر را رقم زد

هوای جیرفت در وضعیت خطرناک قرار گرفت

حکم اعدام محیط‌بان کرمانی نقض شد

سرمقاله اطلاعات/ جهان‌های موازی مسئولان

سرمقاله وطن امروز/ مقاومت پایان‌ناپذیر است

سرمقاله سازندگی/ مردم‌سالاری پدافندی

حرکت یک سیاهچاله غول‌پیکر به سمت کهکشان ما / 600 هزار برابر خورشید است!

توسعه یک چسب محکم و ضد باکتری با الهام از صدف

وارد کردن نانوذرات به ریشه گیاهان برای کمک به مهندسی ژنتیکی گیاه

نشست کارگروه ساماندهی گلزار مطهر شهدای استان اصفهان برگزار شد

دیدار مدیرکل بنیاد شهید و امور ایثارگران استان اردبیل با خانواده‌های معظم شهدا و ایثارگران

لزوم حمایت سازمان پدافند غیرعامل کشور برای مدیریت پیشگیری و توسعه زیرساخت های کیش

افتتاح ششمین نمایشگاه و همایش تخصصی نفت، گاز، پتروشیمی و پالایش در کیش

آغاز گشت های مشترک تیم های بازرسی از مراکز پخش مواد غذایی و پروتئینی در کیش

انتصاب علی نیازی به عنوان مشاور مدیرعامل در امور سرمایه گذاری های نوآورانه

مراسم تکریم و معارفه فرماندار بم چگونه گذشت؟

تأمین گوشت مرغ شب عید در کرمان تا نیمه فروردین‌ 1404 ادامه دارد

سرمقاله ابتکار/ اروپا و خاورمیانه در برابر دو انتخاب

سرمقاله جوان/ علل و اهداف افزایش تهدید نرم افزاری دشمن

الهام از«پرهای پرندگان بهشتی» و «کتری‌های برقی» برای تصفیه آسان و سریع آب دریا

فرود دیدنی موشک «اسپیس‌ایکس» در سواحل باهاما

از مغزت استفاده کن یا از دستش بده!

نقش هوش مصنوعی در کاهش ترس از سوانح هوایی

در مراسم تکریم و معارفه فرماندار بم چه گذشت؟

توافق برای پایان جنگ اوکراین