بزرگنمايي:

کرمان رصد - ایسنا / یک دانشمند آلمانی طی پژوهشی به 5 حقیقت شگفت‌انگیز درباره نحوه کارکرد واقعی چت‌بات‌های هوش مصنوعی اشاره کرده‌ است.
چت‌بات‌های هوش مصنوعی در حال حاضر جزئی از زندگی برخی افراد شده‌اند، اما واقعاً چند نفر می‌دانند که آنها در حقیقت چگونه کار می‌کنند؟ برخی از شگفت‌انگیزترین اطلاعات درباره چت‌بات‌های هوش مصنوعی می‌تواند به ما در درک نحوه کارکرد آنها، توانایی‌ها و محدودیت‌هایشان و در نتیجه نحوه استفاده بهتر از آنها کمک کند.
بازار
«چاتای ییلدیز»(Çağatay Yıldız) پژوهشگر فوق دکترا در «دانشگاه توبینگن»(Tübingen) در آلمان پنج مورد که باید درباره این سامانه‌های پیشگام بدانیم را توضیح داده است. 
1. آنها با بازخورد انسانی آموزش داده می‌شوند
چت‌بات‌های هوش مصنوعی در چندین مرحله آموزش داده می‌شوند که با مرحله‌ای با نام «پیش‌آموزش»(pre-training) آغاز می‌شود؛ مرحله‌ای که مدل‌ها برای پیش‌بینی کلمه بعدی در مجموعه داده‌های متنی عظیم آموزش می‌بینند. این امر به آنها اجازه می‌دهد تا درک کلی از زبان، حقایق و استدلال پیدا کنند.
برای مفید و ایمن کردن این سامانه‌ها برای مکالمه، «حاشیه‌نویسان»(annotators) به هدایت مدل‌ها به سمت پاسخ‌های ایمن‌تر و مفیدتر کمک می‌کنند که این فرآیند، «هم‌ترازی»(alignment) نام دارد.
«حاشیه‌نویسان» به افرادی گفته می‌شود که یادداشت‌ها یا توضیحات را به یک متن، تصویر، ویدئو یا هر نوع داده‌ای اضافه می‌کنند. آنها توضیح‌دهندگانی هستند که اطلاعات اضافی یا توضیحی را به محتوای اصلی اضافه می‌کنند تا درک آن را برای دیگران آسان‌تر کنند. 
چت‌بات‌های هوش مصنوعی بدون «هم‌ترازی»، غیر قابل پیش‌بینی خواهند بود و ممکن است اطلاعات نادرست یا محتوای مضر را منتشر کنند. این امر نقش حیاتی مداخله انسانی را در شکل‌دهی رفتار هوش مصنوعی برجسته می‌کند.
شرکت «اوپن‌ای‌آی»(OpenAI) که «چت‌جی‌پی‌تی»(ChatGPT) را توسعه داده است، افشا نکرده است که چه تعداد از کارکنانش این چت‌بات را برای چه مدت آموزش داده‌اند، اما واضح است که چت‌بات‌های هوش مصنوعی به یک قطب‌نمای اخلاقی نیاز دارند تا اطلاعات مضر را منتشر نکنند.
گفتنی است که «حاشیه‌نویسان» برای اطمینان از بی‌طرفی و هم‌ترازی اخلاقی پاسخ‌ها را رتبه‌بندی می‌کنند.
2. آنها از طریق کلمات یاد نمی‌گیرند، بلکه با کمک توکن‌ها یاد می‌گیرند
انسان‌ها به طور طبیعی زبان را از طریق کلمات یاد می‌گیرند، در حالی که چت‌بات‌های هوش مصنوعی به واحدهای کوچکتر موسوم به «توکن» (token) متکی هستند. این واحدها می‌توانند کلمات، زیرکلمات یا دنباله‌های مبهمی از کاراکترها باشند.
در حالی که «توکن‌سازی» معمولاً از الگوهای منطقی پیروی می‌کند، گاهی اوقات می‌تواند منجر به تقسیم‌های غیرمنتظره شود. این موضوع، نقاط قوت و ویژگی‌های عجیب نحوه تفسیر زبان توسط چت‌بات‌های هوش مصنوعی را آشکار می‌کند. واژگان چت‌بات‌های هوش مصنوعی مدرن معمولاً شامل 50 هزار تا 100 هزار توکن است.
3. دانش آنها با گذر زمان منسوخ می‌شود
چت‌بات‌های هوش مصنوعی خود را به‌طور مداوم به‌روز نمی‌کنند؛ بنابراین ممکن است با رویدادهای جدید، اصطلاحات تازه یا تقریباً هر چیزی پس از «نقطه توقف دانش»(knowledge cutoff) خود مشکل داشته باشند.
«نقطه توقف دانش» به آخرین نقطه زمانی اشاره دارد که داده‌های آموزشی یک چت‌بات هوش مصنوعی به‌روز شده است، به این معنی که از رویدادها، روندها یا اکتشافات پس از آن تاریخ آگاهی ندارد.
به عنوان مثال نسخه فعلی «چت‌جی‌پی‌تی» نقطه توقف خود را ژوئن 2024 (خرداد 1403) قرار داده است. بنابراین اگر از این چت‌بات پرسیده شود که رئیس‌جمهور فعلی ایالات متحده آمریکا کیست، باید از موتور جستجوگر استفاده کند، نتایج را بخواند و پاسخی را ارائه دهد. نتایج موتور جستجوگر بر اساس ارتباط و قابلیت اطمینان منبع فیلتر می‌شوند. به همین ترتیب، سایر چت‌بات‌های هوش مصنوعی از جستجوی وب برای ارائه پاسخ‌های به‌روز استفاده می‌کنند.
به‌روزرسانی چت‌بات‌های هوش مصنوعی یک فرآیند پرهزینه است و نحوه به‌روزرسانی کارآمد دانش آنها هنوز یک مسئله علمی حل نشده است. 
4. آنها به راحتی دچار توهم می‌شوند
چت‌بات‌های هوش مصنوعی گاهی اوقات دچار «توهم»(Hallucinate) می‌شوند و ادعاهای نادرست یا بی‌معنی را با اطمینان تولید می‌کنند، زیرا متن را بر اساس الگوها پیش‌بینی می‌کنند تا اینکه حقایق را تأیید کنند. این خطاها از نحوه کار آنها ناشی می‌شود. آنها انسجام را بر دقت اولویت می‌دهند، به داده‌های آموزشی ناقص متکی هستند و فاقد درک دنیای واقعی هستند.
در حالی که بهبودهایی مانند ابزارهای «بررسی حقایق»(fact-checking) یا اعلان‌ها، «توهمات» را کاهش می‌دهد، اما نمی‌تواند آنها را به طور کامل از بین ببرد. به عنوان مثال، هنگامی که از «چت‌جی‌پی‌تی» در مورد یافته‌های اصلی یک مطالعه خاص پرسیده شد، پاسخی طولانی، دقیق و خوش‌ظاهر ارائه داد. این پاسخ همچنین شامل تصاویر و یک «پیوند»(link) بود، اما از مقالات دانشگاهی اشتباه تولید شده بود. بنابراین کاربران باید اطلاعات تولید شده توسط هوش مصنوعی را به عنوان یک نقطه شروع در نظر بگیرند، نه یک حقیقت محض و غیر قابل انکار.
5. آنها از ماشین حساب برای انجام ریاضیات استفاده می‌کنند
یک قابلیت اخیراً محبوب شده چت‌بات‌های هوش مصنوعی، «استدلال»(reasoning) نامیده می‌شود. «استدلال» به فرآیند استفاده از مراحل میانی متصل به منطق برای حل مسائل پیچیده اشاره دارد. نام دیگر این فرآیند، «زنجیره فکری»(chain of thought) است. «زنجیره فکری» به جای پرش مستقیم به پاسخ، به چت‌بات‌های هوش مصنوعی اجازه می‌دهد تا گام به گام فکر کنند. به عنوان مثال، «چت‌جی‌پی‌تی» در معادلات ریاضی درک می‌کند که عملیات ضرب باید قبل از تفریق انجام شود.
«چت‌جی‌پی‌تی» برای حل معادلات ریاضی، از ماشین حساب داخلی خود استفاده می‌کند که محاسبات دقیق را امکان‌پذیر می‌سازد. این رویکرد از ترکیب «استدلال» داخلی با ماشین حساب به وجود می‌آید که به بهبود این سامانه در اطمینان پذیری برای وظایف پیچیده کمک می‌کند.
این پژوهش در مجله The Conversation منتشر شده است.