این مقاله از MIT نیوز که در ۱۹ فوریه ۲۰۲۶ منتشر شده، درباره تحقیقی جدید از دانشگاه MIT است که نشان میدهد چتباتهای هوش مصنوعی پیشرفته، اطلاعات کمدقتتری به کاربران آسیبپذیر ارائه میدهند.
🎯 هدف و روش تحقیق
محققان مرکز ارتباطات سازنده MIT میخواستند بررسی کنند که آیا چتباتهایی مانند GPT-4 (OpenAI)، Claude 3 Opus (Anthropic) و Llama 3 (Meta) میتوانند به وعده خود برای دسترسی عادلانه همه مردم به اطلاعات عمل کنند یا خیر.
آنها برای این کار، از دو مجموعه سوال (TruthfulQA برای سنجش صحت و SciQ برای دقت علمی) استفاده کردند و پروفایلهای کوتاهی از کاربران با ویژگیهای زیر را ابتدای هر سوال اضافه نمودند:
· سطح تحصیلات (کمتر یا بیشتر)
· تسلط به زبان انگلیسی (غیر بومی یا بومی)
· کشور مبدا (آمریکا، ایران، چین)
🔍 یافتههای اصلی تحقیق
1. کاهش دقت برای کاربران خاص: در هر سه مدل، دقت پاسخها برای کاربرانی که بهعنوان افراد با تحصیلات کمتر یا غیرانگلیسیزبان توصیف شده بودند، به طور معناداری کاهش یافت. این مشکل برای کاربرانی که هر دو ویژگی را داشتند (تحصیلات کمتر و غیرانگلیسیزبان) شدیدتر بود.
2. تاثیر کشور مبدا: بهعنوان مثال، مدل Claude 3 Opus برای کاربرانی از ایران (با پیشینه تحصیلی مشابه کاربران آمریکایی) عملکرد ضعیفتری در پاسخدهی داشت.
3. خودداری از پاسخ و لحن توهینآمیز: مدلها در برابر کاربران آسیبپذیر، بیشتر از پاسخ دادن خودداری میکردند.
· میزان عدم پاسخدهی Claude 3 Opus به کاربران کمتحصیل و غیرانگلیسیزبان به ۱۱ درصد رسید، در حالی که این میزان برای کاربران عادی ۳.۶ درصد بود.
· در ۴۳.۷ درصد موارد، مدل به این کاربران با لحن تحقیرآمیز یا تمسخرآمیز پاسخ داد (مثلاً تقلید انگلیسی شکسته). مدل حتی به سوالات بیخطری مانند آناتومی یا قدرت هستهای برای کاربران ایرانی یا روسی پاسخ نداد، در حالی که همان سوال را برای دیگران جواب میداد.
💡 چرا این اتفاق میافتد؟
محققان معتقدند این مشکل ریشه در سوگیریهای اجتماعی انسانی دارد. تحقیقات علوم اجتماعی نشان داده که افراد، انگلیسیزبانهای غیربومی را ناخودآگاه کمتحصیلتر یا کمهوشتر تصور میکنند. به نظر میرسد مدلهای زبانی بزرگ این الگوهای رفتاری نادرست را از دادههای آموزشی خود یاد گرفته و بازتولید میکنند.
این یافتهها نگرانکننده هستند، زیرا:
· ابزارهایی که قرار بود دسترسی به اطلاعات را عادلانهتر کنند، ممکن است نابرابری را تشدید کنند.
· کاربرانی که بیشتر به این ابزارها وابسته هستند، اطلاعات غلط، ناقص یا مضر دریافت میکنند.
· با رایجتر شدن قابلیتهای شخصیسازی (مثل حافظه چتباتها)، این خطر که مدلها به طور خودکار با کاربران مختلف رفتار تبعیضآمیز داشته باشند، بیشتر میشود.
@AiOmid
هدایت شده از هنرهای مصور [امیدیوم 🇮🇷]
سلام
اگه دوستان پرامپت خاصی برای تولید تصویر برای این ایام دارند و دسترسی به تصویر سازها ندارند و نیاز به تولید تصویر دارند برای من بفرستند تا انجام بدم
◀️راهکار فنی مخابرات برای بهبود دسترسی به سرویسهای ایرانی در شرایط محدودیت اینترنت
⏺ در پی گزارشهای کاربران در مورد اختلال در دسترسی به وبسایتها و اپلیکیشنهای داخلی ایران — به ویژه در شرایط محدودیت اینترنت — شرکت مخابرات ایران استفاده از راهکارهایی برای دسترسی بهتر با سرعت و پایداری مناسب خبر داد.
⏺به گزارش معاونت ارتباطات شرکت مخابرات ایران، درصورت استفاده کاربران از DNSهای داخلی و تنظیم آن بر روی رایانههای خود، امکان استفاده بهینهتر از ترافیک داخلی را داشته و باعث میشود.سرویسهای ایرانی با سرعت و پایداری بهتری قابل دسترسی باشند.
⏺این اقدام به ویژه در شرایطی که برخی کاربران با کندی یا کامل نبودن دسترسی به اپلیکیشنها و سایتهای داخلی مواجه شدهاند، کمککننده است.
⏺شرکت مخابرات ایران تأکید کرده است که این راهکار جنبه فنی دارد و به صورت عمومی برای تمام کاربران رایانه قابل اجرا است.
⏺این راهکار به منظور تسهیل استفاده از ترافیک ملی در دورههای محدودیت اینترنتی طراحی شده و هدف اصلی آن، افزایش کیفیت تجربه کاربران در دسترسی به محتوای داخلی کشور است.
⏺نشانی DNS مخابرات برای استفاده مشترکین سرویسهای دیتای این شرکت 5.200.200.200 است.
شرکت مخابرات ایران
@AiOmid
۵ ابزار جدید طراحی که بهتازگی منتشر شدهاند
۱. Kodo
ابزار طراحی مبتنی بر هوش مصنوعی که میتواند ارائهها، پوسترها و گرافیکهای شبکههای اجتماعی را بهصورت خودکار تولید کند.
ویژگیها:
• ساخت سریع اسلاید و پرزنتیشن با AI
• طراحی پوستر و محتوای بصری
• مناسب برای تولید محتوای شبکههای اجتماعی
۲. Gleam
پلتفرمی مبتنی بر هوش مصنوعی برای دریافت همزمان بازخورد طراحی از ۱۰ متخصص مجازی روی هر طرحی که آپلود میکنید.
ویژگیها:
• تحلیل و بررسی طراحی با AI
• دریافت فیدبک تخصصی سریع
• مناسب برای بهبود UI/UX و پروژههای گرافیکی
۳. Museboard
یک ابزار سبک و سریع برای ساخت مودبورد و جمعآوری رفرنسهای طراحی با قابلیت درگانددراپ.
ویژگیها:
• ساخت مودبورد حرفهای
• ذخیره و دستهبندی ایدهها
• رابط کاربری ساده و مینیمال
@AiOmid
۴. Screenhance
ابزاری که اسکرینشاتهای ساده را در چند دقیقه به تصاویر حرفهای یا ویدیوهای متحرک MP4 تبدیل میکند.
ویژگیها:
• تبدیل اسکرینشات به موکاپ حرفهای
• ساخت ویدیوهای تبلیغاتی کوتاه
• مناسب برای معرفی محصول و Product Hunt
۵. Uxia
پلتفرمی برای تست تجربه کاربری که با شبیهسازی کاربران توسط هوش مصنوعی، جریانهای UX و رابط کاربری را در چند ثانیه ارزیابی میکند.
ویژگیها:
• تست UX بدون نیاز به کاربر واقعی
• دریافت تحلیل و اینسایت فوری
• کاهش زمان و هزینه تحقیقات محصول
اگر طراح، تولیدکننده محتوا یا فعال حوزه محصول هستید، این ابزارها میتوانند سرعت کار و کیفیت خروجی شما را به شکل قابلتوجهی افزایش دهند.
@AiOmid
2.5M حجم رسانه بالاست
مشاهده در ایتا
Gemini Omni
کاربران میتوانند در اپلیکیشن Gemini یک ویدئو از کشیدن یک شکل ساده، مانند دایره، آپلود کرده و با استفاده از یک پرامپت متنی، آن را به صحنهای کاملاً جدید تبدیل کنند. برای مثال، با دستور «وقتی کشیدن دایره تمام شد، به … تبدیل شود» هوش مصنوعی نتیجه را بهصورت ویدئویی تولید میکند. این قابلیت اکنون در اپلیکیشن Gemini در دسترس است.
@AiOmid
میتونید اپ Arvin را دانلود کنید
لینک دریافت:
https://play.google.com/store/apps/details?id=com.chatgpt.ai.chat.openai
@AiOmid