آیا مودب بودن با هوش مصنوعی نتیجه بهتری میدهد؟
بسیاری از کاربران تصور میکنند که هر چقدر با هوش مصنوعی به صورت محترمانهتر و مودبانهتر صحبت کنند، پاسخهای دقیقتر و باکیفیتتری را از آن دریافت خواهند کرد. اما نتایج یک پژوهش جدید نشان میدهد که موضوع به این سادگی نیست. بررسیهای گذشته پژوهشگزان حاکی از آن است که لحن کاربران، چه مودبانه و چه تند، میتواند بر نحوه پاسخگویی مدلهای زبانی تاثیرگذار باشد و حتی در برخی شرایط نتایج غیرمنتظرهای ایجاد کند.
پیشنهاد نویسنده: توکن (Token) در هوش مصنوعی چیست؟
بررسی تاثیر لحن کاربران بر پاسخ ChatGPT و مدلهای AI
پیشرفت در حوزهی هوش مصنوعی، سبب شده استا تا استفاده از ابزارهای مبتنی بر هوش مصنوعی مانند ChatGPT و سایر مدلهای زبانی به صورت چشمگیری افزایش یابد که باعث شده است تا محققان به دنبال درک بهتر عواملی باشند که بر کیفیت پاسخهای این سیستمها تاثیرگذار باشد. یکی از موضوعات مهم در این زمینه، نقش لحن کاربران هنگام مطرح کردن سوالات خود در هنگام صحبت با هوش مصنوعی است.
در پژوهشی با عنوان Mind Your Tone، محققان سعی کردند تا بررسی نمیاند که آیا شیوه بیان سوالات میتواند بر عملکرد مدلهای زبانی تاثیرگذار باشد یا خیر. برای این منظور، 50 سوال متفاوت با لحنهای مختلف، از لحن بسیار مودبانه گرفته تا لحن بسیار بی ادبانه، از مدلهای هوش مصنوعی پرسیدند، نتایج این آزمایش نشان داد که مدلهای زبانی تنها به محتوای سوال دقت نمیکنند، بلکه نشانههای زبانی و اجتماعی که در متن وجود دارد هم بر نحوهی پردازش اطلاعات تاثیرگذار است. به بیانی دیگر، نحوهی بیان یک درخواست میتواند مسیر تولید پاسخ مدل را تغییر دهد.
نتایج جالب پژوهش درباره لحن تند و مودبانه
شاید عجیبترین یافته این تحقیق مربوط به تفاوت دقت پاسخها در شرایط مختلف باشد. دادههای به دست آمده نشان میدهد در برخی از موارد، سوالاتی که با لحن بسیار بیادبانه مطرح شده بودند، پاسخهای دقیقتری نسبت به سوالات بسیار مودبانه دریافت کردند.
براساس نتایج منتشر شده، میزان دقت پاسخها در حالت بسیار بی ادبانه حدود 4 درصد بیشتر از حالت بسیار مودبانه بوده است. این تفاوت اگرچه بزرگ نیست، اما به اندازهای قابل توجه است که توجه پژوهشگران حوزه هوش مصنوعی را به خود جلب کرده است.
البته این موضوع به معنای برتری همیشگی لحن تند نسبت به لحن عادی و مودبانه نیست. در بسیاری از موارد، تفاوت چشمگیری میان نتایج مشاهده نشده و گاهی هم لحن مودبانه عملکرد بهتری داشته است. بنابراین نمیتوان نتیجه گرفت که بی ادبی همیشه باعث دریافت پاسخ بهتر میشود.
چرا هوش مصنوعی به لحن واکنش نشان میدهد؟
برای درک این موضوع، باید به نحوهی آموزش مدلهای زبانی توجه نمود. سیستمهایی مانند ChatGPT بر پایه حجم عظیمی از متنهای تولید شده توسط انسانها آموزش میبینند. این دادهها شامل کتابها، نوشتهها، وبسایتها، مکالمههای آنلاین و انواع مختلفی از محتوای متنی هستند.
در نتیجه، مدلهای زبانی نه تنها معنای کلمات را آموزش میبینند، بلکه الگوهای رفتاری و اجتماعی موجود در زبان را هم تا حدی شناسایی میکنند. وقتی که یک کاربر سوالی را با لحن خاصی از مدل میپرسد، مدل تلاش میکند تا پاسخی را تولید کند که با همان زمینه زبانی هماهنگ باشد.
به همین علت است که تغییر لحن یک درخواست، حتی زمانی که محتوای اصلی سوال ثابت باقی بماند، میتواند بر ساختار و کیفیت پاسخ تاثیرگذار باشد. در واقع، مدل هوش مصنوعی در حال تفسیر مجموعهای از نشانههای زبانی است که فراتر از معنای صرف کلمات قرار دارند.
آیا باید با هوش مصنوعی بیادبانه صحبت کنیم؟
پاسخ کوتاه به این پرسش منفی است. پژوهشگران تاکید کردهاند که نتایج این مطالعه نباید به عنوان توصیهای برای رفتار تهاجمی با هوش مصنوعی تلقی گردد.
اول اینکه تفاوت دیده شده در همهی شرایط یکسان نبوده است. دوم اینکه کیفیت پاسخ تنها به لحن بستگی ندارد و عوامل مهمتری مانند شفافیت سوال، میزان جزئیات درخواست و انتخاب کلمات مناسب نقش بسیار پررنگتری را در نتیجهی نهایی ایفا میکنند.
در بسیاری از موارد، کاربری که سوال خود را دقیق، روشن و ساختاریافته از مدل میپرسد، بدون توجه به میزان رسمیت یا صمیمیت لحن، پاسخ بهتری را از مدلدریافت خواهد کرد. بنابراین تمرکز بر کیفیت پرسش معمولا اهمیت بیشتری نسبت به نوع لحن دارد.
نقش مهندسی پرامپت در کیفیت پاسخها
در سالهای گذشته با پیشرفت هوش مصنوعی، مفهوم مهندسی پرامپت یا Prompt Engineering به یکی از موضوعات مهم تبدیل شده است. این مفهوم به هنر و مهارت طراحی سوالات و دستورات به شکلی اشاره دارد که بهترین خروجی ممکن از مدل دریافت شود.
مطالعات مختلف نشان دادهاند که نحوه نگارش پرامپت میتواند تاثیر چشمگیری بر کیفیت پاسخها داشته باشد. استفاده از توضیحات دقیق، مشخص کردن هدف، تعیین فرمت خروجی و ارائه اطلاعات زمینهای مناسب معمولا تاثیر بسیار بیشتری نسبت به تغییر لحن مودبانه یا تند دارد.
برای مثال، درخواست لطفا درباره بازاریابی دیجیتال توضیح بده ممکن است پاسخ کلی دریافت کند، اما اگر کاربر بنویسد؛ یک راهنمای 500 کلمهای درباره بازاریابی دیجیتال برای کسب و کارهای کوچک بنویس، پاسخ معمولا بسیار کاربردیتر و کاملتر خواهد بود.
آیا مدلهای پیشرفتهتر، کمتر تحت تاثیر لحن قرار میگیرند؟
یکی دیگر از یافتههای جالب این پژوهش به تفاوت بین نسلهای مختلف مدلهای هوش مصنوعی مربوط میشود. نتایج اولیه نشان میدهد که مدلهای پیشرفتهتر احتمالا کمتر تحت تاثیر تغییرات لحن قرار میگیرند.
این موضوع منطقی به نظر میرسد؛ چون مدلهای جدیدتر معمولا درک عمیقتری از هدف کاربر دارند و بهتر میتوانند میان محتوای اصلی سوال و ویژگیهای جانبی آن تمایز قائل شوند. به همین علت است که انتظار میرود با پیشرفت فناوری، تاثیر لحن بر کیفیت پاسخها کاهش پیدا کند.
البته هنوز تحقیقات بیشتری برای تایید این فرضیه مورد نیاز است و نمیتوان با قطعیت درباره تمام مدلهای موجود نظر داد.
آینده تعامل انسان و هوش مصنوعی
یافتههای این پژوهش نشان میدهد که تعامل انسان و هوش مصنوعی پیچیدهتر از چیزی است که در نگاه اول به نظر میرسد. مدلهای زبانی تنها به کلمات توجه نمیکنند، بلکه بسیاری از نشانههای اجتماعی و زبانی را هم در فرآیند تولید پاسخ در نظر میگیرند. با توسعه نسلهای جدید هوش مصنوعی، احتمالا شاهد سیستمهایی خواهیم بود که بهتر میتوانند منظور واقعی کاربران را تشخیص دهند و کمتر تحت تاثیر تفاوتهای ظاهری در شیوه بیان قرار بگیرند. این موضوع میتواند تجربه کاربری را بهبود ببخشد و کیفیت تعامل میان انسان و ماشین را افزایش بدهد.
نتایج این پژوهش نشان داده است که لحن کاربران میتواند بر پاسخهای هوش مصنوعی تأثیرگذار باشد و حتی در برخی شرایط، سوالات مطرح شده به صورت تند و بیادبانه، نتایج دقیقتری ایجاد کردهاند. با این حال، این موضوع به معنای برتری بیادبی نمیباشد؛ بلکه عوامل مهمتری مانند شفافیت، دقت و ساختار مناسب سؤال نقش پررنگتری در کیفیت پاسخها ایفا میکنند. در نهایت، بهترین راه برای دریافت پاسخهای بهتر از هوش مصنوعی، مطرح کردن درخواستها بهصورت شفاف، کامل و هدفمند است.