پژوهشی در دانشگاه مریلند نشان می‌دهد قابلیت Be My AI اغلب پاسخ‌های مفید را در میان توضیحات طولانی پنهان می‌کند و کاربران نابینا را برای رسیدن به اطلاعات موردنیازشان با زحمت بیشتری روبه‌رو می‌سازد. هوش مصنوعی می‌تواند تصاویر را توصیف کند، اشیا را تشخیص دهد و به پرسش‌های مربوط به آنچه دوربین ثبت می‌کند پاسخ
پژوهشی در دانشگاه مریلند نشان می‌دهد قابلیت Be My AI اغلب پاسخ‌های مفید را در میان توضیحات طولانی پنهان می‌کند و کاربران نابینا را برای رسیدن به اطلاعات موردنیازشان با زحمت بیشتری روبه‌رو می‌سازد.
هوش مصنوعی می‌تواند تصاویر را توصیف کند، اشیا را تشخیص دهد و به پرسش‌های مربوط به آنچه دوربین ثبت می‌کند پاسخ دهد. بااین‌حال، وقتی یک کاربر نابینا به پاسخی سریع نیاز دارد، شنیدن توضیحی طولانی درباره تمام جزئیات صحنه چندان کاربردی نخواهد بود. پژوهشگران دانشگاه مریلند دریافته‌اند که ابزارهای هوش مصنوعی برای کمک بصری گاهی کاربران نابینا را مجبور می‌کنند برای دستیابی به اطلاعات ضروری، تلاش بیشتری انجام دهند.
این پژوهش با عنوان Say It My Way: Exploring Control in Conversational Visual Question Answering with Blind Users به بررسی نحوه تعامل کاربران با قابلیت Be My AI پرداخت؛ ابزاری مبتنی بر هوش مصنوعی در اپلیکیشن Be My Eyes. نتایج نشان داد کاربران اغلب توضیحاتی طولانی دریافت می‌کنند که به‌خوبی با هدف فوری آن‌ها مطابقت ندارد. در نتیجه، برای رسیدن به پاسخ مناسب ناچارند پرسش‌های تکمیلی مطرح کنند یا با تغییر شیوه سؤال‌کردن، هوش مصنوعی را به سمت اطلاعات مفیدتر هدایت کنند.
هوش مصنوعی اطلاعاتی بیشتر از نیاز کاربران نابینا ارائه می‌دهد
پژوهشگران ۱۱ فرد نابینا را برای شرکت در این مطالعه انتخاب کردند. شرکت‌کنندگان ابتدا در محیط آزمایشگاهی قابلیت Be My AI را آزمایش کردند و سپس به مدت ۱۰ روز در زندگی روزمره خود از آن بهره بردند. گروه تحقیقاتی در مجموع ۴۱۸ تعامل را بررسی کرد تا مشخص شود کاربران چگونه سؤال می‌پرسند، به پاسخ‌های هوش مصنوعی چه واکنشی نشان می‌دهند و هنگام دریافت نتایج نامناسب چگونه روش خود را تغییر می‌دهند.
نتایج از وجود فاصله‌ای قابل‌توجه میان پرسش‌های کاربران و پاسخ‌های هوش مصنوعی حکایت داشت. شرکت‌کنندگان معمولاً سؤال‌هایی با حدود ۱۰ تا ۲۰ کلمه مطرح می‌کردند، اما پاسخ‌های هوش مصنوعی بیش از ۱۰ برابر طولانی‌تر بود. مکالمات به‌طور میانگین سه مرحله داشتند، هرچند در برخی موارد تعداد رفت‌وبرگشت‌ها به ۲۱ مرحله می‌رسید. از آنجا که پاسخ‌ها با صدای بلند برای کاربران خوانده می‌شوند، پیدا کردن یک نکته کاربردی گاهی مستلزم شنیدن حجم زیادی از اطلاعات غیرضروری است.
برای نمونه، یکی از شرکت‌کنندگان نابینا می‌خواست مطمئن شود سوسیس‌ها به‌اندازه کافی پخته‌اند یا خیر. هوش مصنوعی بارها توضیح داد که برخی قسمت‌های سوسیس همچنان صورتی به نظر می‌رسند، اما کاربر به راهنمایی عملی درباره اقدام بعدی نیاز داشت، نه تکرار توصیف ظاهر غذا.
در نمونه‌ای دیگر، یکی از شرکت‌کنندگان که به دنبال کلیدهای خود می‌گشت، به‌جای دریافت پاسخی متمرکز بر محل وسیله گمشده، توضیحی طولانی درباره تصویر دریافت کرد. بیش از نیمی از شرکت‌کنندگان نیز عادت این اپلیکیشن به ارائه توصیف کامل تصویر در ابتدای پاسخ را مشکلی جدی دانستند.
کاربران نابینا چگونه محدودیت‌های هوش مصنوعی را دور می‌زنند؟
شرکت‌کنندگان برای دریافت پاسخ‌های کاربردی‌تر، روش‌های مختلفی را امتحان کردند. برخی توضیح می‌دادند چرا سؤال خاصی را مطرح کرده‌اند تا هوش مصنوعی از هدف آن‌ها آگاه شود. گروهی دیگر نیز کارهای پیچیده را به چند پرسش کوچک‌تر تقسیم می‌کردند.
یکی از شرکت‌کنندگان هنگام بررسی خمیر نان، درباره اندازه خمیر، سطح آن، حباب‌های هوا و مقدار آرد، پرسش‌های جداگانه‌ای مطرح کرد. او توضیح داد که تنها با این روش می‌تواند از درستی پاسخ‌ها اطمینان بیشتری پیدا کند.
با وجود تلاش کاربران برای هدایت هوش مصنوعی، پژوهش محدودیت‌های دیگری را نیز آشکار کرد؛ از جمله ناتوانی در تخمین دقیق فاصله‌ها و تشخیص تغییرات در طول زمان، مشکلات مربوط به کادربندی تصاویر و ارائه راهنمایی ناکافی درباره نحوه قرار دادن دوربین.
پژوهشگران معتقدند کاربران نابینا نباید برای دریافت پاسخ‌های ساده، مجبور به یادگیری روش‌های پیچیده طراحی پرسش شوند. برای آنکه ابزارهای هوش مصنوعی در زمینه کمک بصری واقعاً دسترس‌پذیر باشند، باید نیاز اصلی کاربر را در اولویت قرار دهند و پاسخ‌هایی روشن و مفید ارائه کنند؛ بدون اینکه افراد مجبور شوند برای جبران کاستی‌های فناوری، تلاش اضافی انجام دهند.
زیرا وقتی کسی می‌پرسد کلیدهایش کجا هستند، احتمالاً به یک تور راهنمای کامل از تمام اتاق نیاز ندارد.