پرش به محتوا
به‌زیستن
فهرست

مجلهٔ به‌زیستندورهٔ ۱ · شمارهٔ ۱ · پاییز ۱۴۰۵

فناوری و هوش مصنوعی · مجلهٔ به‌زیستن · دورهٔ ۱ · شمارهٔ ۱ · پاییز ۱۴۰۵

دستیار هوش مصنوعی در کنار متخصصین؛ واقعیت یا یک توهم؟

تحریریهٔ مجلهٔ به‌زیستن

انتشار: شمارهٔ ۱ · پاییز ۱۴۰۵ · زمان مطالعه: ۸ دقیقه · ۱۷ منبع

شروع مقالهبازگشت به شماره
فهرست این مقاله
  1. ۰۱دو معنای یک واژه
  2. ۰۲آنچه واقعی است
  3. ۰۳آنچه هنوز توهم است
  4. ۰۴سوگیری اتوماسیون؛ خطری در ذهن ما
  5. ۰۵سلامت روان؛ جایی که احتیاط دوچندان است
  6. ۰۶دستیار، آری؛ جانشین، نه
  7. منابع
چکیده و کلیدواژه‌هامدل‌های زبانی در آزمون‌ها می‌درخشند و در مطالعات کنترل‌شده گاهی به کار می‌آیند؛ اما فاصلهٔ میان دانستنِ ماشین و کمک کردنش به متخصص، هنوز با داوری و نظارت انسانی پر می‌شود.کلیدواژه‌ها: هوش مصنوعی، مدل‌های زبانی، سوگیری اتوماسیون، کارآزمایی تصادفی، سلامت روان
تصویر ۱. دفتر و قلم در پیش‌زمینه می‌مانند؛ دستیار کمی عقب‌تر می‌نشیند و فقط پیشنهادی را پیش می‌گذارد.
۰۱

دو معنای یک واژه

در ادبیات هوش مصنوعی، به پاسخ‌های ساختگی اما مطمئنِ مدل‌های زبانی «توهم» می‌گویند. پرسش این نوشته اما توهم را به معنای دیگری هم در نظر دارد: آیا تصویر «دستیار هوشمندی که در کنار متخصص می‌نشیند و بار کار را سبک می‌کند» واقعیتی در حال شکل‌گیری است، یا خیالی که هیاهوی تبلیغات ساخته است؟

پاسخ کوتاه این است: هر دو. برخی کمک‌ها واقعی، اندازه‌پذیر و محدودند؛ برخی وعده‌ها هنوز پشتوانه‌ای ندارند. برای جدا کردن این دو باید دید هر ادعا بر چه نوع شاهدی تکیه دارد: آزمون امتحانی، مورد شبیه‌سازی‌شده، یا مراقبت واقعی.

۰۲

آنچه واقعی است

نخست، دانش امتحانی مدل‌ها به‌سرعت رشد کرده است. مدل Med-PaLM 2 در پرسش‌های امتحانی مجموعهٔ MedQA تا ۸۶٫۵ درصد پاسخ درست داد و پزشکان پاسخ‌هایش را در هشت محور از نُه محور ارزیابی ترجیح دادند؛ اما در یک مطالعهٔ مقدماتی روی پرسش‌های واقعی، پاسخ متخصصان در مجموع همچنان برتر شناخته شد [۱]. این پژوهش را توسعه‌دهندگان خود مدل انجام داده‌اند.

دوم، نگارش. آیرز و همکاران ۱۹۵ پرسش و پاسخ را از یک انجمن عمومی اینترنتی بررسی کردند. ارزیابان متخصص در ۷۸٫۶ درصد ارزیابی‌ها پاسخ گفت‌وگوگر را ترجیح دادند و آن را از نظر کیفیت و همدلی بالاتر دانستند [۲]. اما پاسخ‌های گفت‌وگوگر حدود چهار برابر طولانی‌تر بود، ارزیابان خودِ پرسش‌کنندگان نبودند و محیط، انجمن عمومی بود نه مراقبت بالینی. پیشنهاد خود نویسندگان این بود که چنین ابزارهایی پیش‌نویس پاسخ را برای ویرایش پزشک آماده کنند. پس این یافته به معنای «همدل‌تر بودن ماشین از پزشک» نیست.

سوم، کمک به استدلال در تکالیف مشخص. در کارآزمایی تصادفی گوه و همکاران در سال ۲۰۲۵، ۹۲ پزشک روی پنج مورد شبیه‌سازی‌شده بر پایهٔ موارد واقعیِ بی‌نام‌شده کار کردند. پزشکانی که به GPT-4 دسترسی داشتند، در استدلال مدیریتی، یعنی تصمیم دربارهٔ گام‌های بعدی مراقبت، ۶٫۵ واحد درصد امتیاز بیشتری گرفتند و برای هر مورد حدود دو دقیقه بیشتر وقت گذاشتند [۳]. نویسندگان تأکید کرده‌اند که این نتیجه باید در کار واقعی تأیید شود.

چهارم، کارهای اداری و مستندسازی. در کارآزمایی تصادفی لوکاچ و همکاران، پزشکان سرپایی در تخصص‌های گوناگون به یکی از دو «کاتب محیطی» هوش مصنوعی، که گفت‌وگوی جلسه را به پیش‌نویس یادداشت تبدیل می‌کند، یا به مراقبت معمول اختصاص یافتند. یکی از دو محصول زمان نوشتن یادداشت را اندکی کاهش داد و دیگری تغییر معناداری نشان نداد؛ هر دو بهبود اندکی در شاخص‌های فرسودگی و بار کاری به همراه داشتند، اما گاه‌به‌گاه نادرستی‌های بالینی مهم، بیشتر از جنس جاافتادگی، رخ داد [۴]. این کارآزمایی در یک مرکز و در دوره‌ای کوتاه انجام شد. پژوهشگران بر نظارت فعال پزشک تأکید کرده‌اند، نه پذیرش منفعلانهٔ خروجی.

و سرانجام، خطاها اندازه‌پذیر و کاهش‌پذیرند. در مطالعهٔ اصغری و همکاران، پزشکان نزدیک به ۱۳ هزار جمله از خلاصه‌های تولیدشده را بررسی کردند. نرخ توهم ۱٫۴۷ درصد و نرخ جاافتادگی ۳٫۴۵ درصد بود و اصلاح دستورها و گردش کار، خطاهای عمده را کاهش داد [۵]. این نرخ‌ها به پیکربندی همان مطالعه وابسته‌اند و نباید آن‌ها را «نرخ توهم هوش مصنوعی» به‌طور کلی دانست؛ اما پیام روشن است: خطا کم می‌شود، ولی صفر نمی‌شود.

۰۳

آنچه هنوز توهم است

در کنار این شواهد، چند باور رایج پشتوانه ندارد. جدول زیر برخی از آن‌ها را کنار شواهد موجود می‌گذارد:

باور رایجآنچه شواهد نشان می‌دهد
«قبولی در آزمون یعنی هم‌سطح متخصص»در مروری بر ۵۱۹ مطالعه، تنها ۵ درصد از داده‌های واقعی مراقبت بیمار استفاده کرده بودند [۶].
«متخصص به‌اضافهٔ هوش مصنوعی همیشه بهتر است»در یک کارآزمایی، دسترسی به مدل استدلال تشخیصی پزشکان را بهتر نکرد (۷۶ در برابر ۷۴ درصد) [۷].
«دانش مدل یعنی کمک به کاربر»مدل‌ها به‌تنهایی بیشتر بیماری‌ها را درست شناختند، اما افرادی که از همان مدل‌ها کمک گرفتند بهتر از گروه کنترل نبودند [۸].
«مسئلهٔ توهم حل شده است»نرخ‌ها پایین اما غیرصفرند و در کارآزمایی بالینی هم نادرستی‌های مهم دیده شد [۴] [۵].

یافتهٔ کارآزمایی گوه و همکاران در سال ۲۰۲۴ به‌ویژه تأمل‌برانگیز است: در تحلیلی ثانویه و اکتشافی، خودِ مدل به‌تنهایی ۱۶ امتیاز بالاتر از پزشکانی بود که از منابع معمول استفاده می‌کردند [۷]. یعنی صرفِ گذاشتن ابزار در دست متخصص، همکاری خوب انسان و ماشین را نمی‌سازد؛ این همکاری طراحی و آموزش می‌خواهد. دانستنِ ماشین با کمک کردنِ ماشین یکی نیست؛ میان این دو، انسان ایستاده است. کنار هم گذاشتن این دو کارآزمایی هم نشان می‌دهد که پرسش «انسان و ماشین با هم، یا ماشین به‌تنهایی؟» هنوز حل نشده و پاسخ آن به نوع تکلیف بستگی دارد.

مطالعهٔ بین و همکاران روی بیش از هزار شرکت‌کننده از عموم مردم نیز نشان داد که معیارهای امتحانی و بیماران شبیه‌سازی‌شده، شکست‌های تعامل واقعی را پیش‌بینی نمی‌کردند [۸]. شرکت‌کنندگان متخصص نبودند و سناریوها فرضی بود، اما درس آن عام است: پیش از به‌کارگیری، ابزار باید با کاربران واقعی آزموده شود.

دربارهٔ زبان فارسی هم شواهد هنوز در سطح آزمون است. در مطالعه‌ای روی ۶۵۰ پرسش چندگزینه‌ای فارسی از آزمون‌های بورد فوق‌تخصصی داخلی در سال ۲۰۲۵، دقت GPT-4o برابر ۶۸٫۹ درصد، GPT-5 برابر ۷۴٫۵ درصد و Gemini 2.5 Flash برابر ۷۹٫۹ درصد بود و عملکرد میان رشته‌ها تفاوت داشت [۹]. این عملکرد قابل‌توجه است، اما آزمون، طبابت نیست.

دانستنِ ماشین با کمک کردنِ ماشین یکی نیست؛ میان این دو، انسان ایستاده است.

۰۴

سوگیری اتوماسیون؛ خطری در ذهن ما

شاید مهم‌ترین خطر دستیار هوشمند در خود ماشین نباشد، بلکه در اعتمادی باشد که ما به آن می‌کنیم. در آزمایش دراچ و همکاران، ۲۷ رادیولوژیست ۵۰ ماموگرافی را با کمک ابزاری خواندند که به آن‌ها «هوش مصنوعی» معرفی شده بود. وقتی پیشنهاد ابزار نادرست بود، دقت در همهٔ سطوح تجربه به‌شدت افت کرد: در خوانندگان کم‌تجربه از حدود ۸۰ به ۲۰ درصد و در خوانندگان بسیار باتجربه از ۸۲ به ۴۶ درصد [۱۰]. تازه‌کارها بیش از همه از پیشنهادهای نادرست پیروی کردند، اما باتجربه‌ها هم مصون نبودند.

مرور نظام‌مند گدارد و همکاران روی ۷۴ مطالعه نشان داد که این اتکای بیش از حد با اعتماد، تجربه، بار کاری، پیچیدگی تکلیف و فشار زمانی ارتباط دارد. راه‌های کاهش آن شامل آموزش، تأکید بر مسئولیت کاربر، جای نمایش پیشنهاد روی صفحه، نشان دادن سطح اطمینان و ارائهٔ اطلاعات به‌جای توصیه بود [۱۱]. این یافته پایهٔ تجربی مهمی است برای جدا کردن «پشتیبانی از تصمیم» از «تصمیم‌گیری».

سازمان جهانی بهداشت نیز در راهنمای خود دربارهٔ مدل‌های بزرگ چندوجهی، در کنار کاربردهای بالقوه در مراقبت بالینی، کارهای اداری، آموزش و پژوهش، خطرهایی را برشمرده است: گزاره‌های نادرست، ناقص یا سوگیرانه، آموزش با داده‌های بی‌کیفیت، سوگیری اتوماسیون و تهدیدهای امنیتی برای اطلاعات بیماران [۱۲].

۰۵

سلامت روان؛ جایی که احتیاط دوچندان است

در حوزهٔ سلامت روان، شواهد هم امیدوارکننده است و هم نگران‌کننده. در کارآزمایی تصادفی هاینز و همکاران، بزرگسالانی با افسردگی، اضطراب فراگیر یا خطر بالای اختلال خوردن، به یک گفت‌وگوگر زایای ویژه‌ساخته یا به فهرست انتظار اختصاص یافتند و علائم در گروه مداخله به‌طور معناداری بیشتر کاهش یافت [۱۳]. اما گروه کنترل هیچ درمانی دریافت نکرد، پیگیری کوتاه بود و کارکنان پژوهش در طول مطالعه بارها برای نگرانی‌های ایمنی مداخله کردند و پاسخ‌های نامناسب را اصلاح کردند. این کارآزمایی هم‌ارزی با درمانگر را نشان نمی‌دهد.

در مقابل، مور و همکاران نشان دادند که مدل‌های زبانی عمومی، از جمله GPT-4o، نسبت به برخی اختلال‌ها انگ‌زنی نشان می‌دهند و گاه پاسخ‌های نامناسب می‌دهند، مثلاً همراهی با افکار هذیانی، که احتمالاً از گرایش مدل به خوشایندگویی برمی‌خیزد؛ و این مشکلات در مدل‌های بزرگ‌تر و جدیدتر هم باقی بود [۱۴]. نویسندگان نتیجه گرفتند که این مدل‌ها نباید جای درمانگر را بگیرند و پیشنهاد کردند نقش‌های حمایتی دیگری برایشان در نظر گرفته شود.

انجمن روان‌شناسی آمریکا نیز در توصیه‌نامه‌ای در سال ۲۰۲۵ اعلام کرده است که گفت‌وگوگرها و برنامه‌های سلامتیِ مبتنی بر هوش مصنوعی زایا شواهد و نظارت قانونی کافی ندارند، نباید جایگزین متخصص واجد صلاحیت شوند و توانشان در مواجهه با بحران محدود و پیش‌بینی‌ناپذیر است. این انجمن از درمانگران خواسته است دربارهٔ استفادهٔ مراجعان از هوش مصنوعی بپرسند و خود در این زمینه آموزش ببینند [۱۵].

باید صریح گفت: این مجله خدمت اورژانسی نیست و هیچ گفت‌وگوگر یا ابزار پیگیری‌ای را نباید جایگزین آن دانست. در هر موقعیت فوری یا خطر جانی باید با خدمات اورژانس محلی تماس گرفت.

۰۶

دستیار، آری؛ جانشین، نه

هر دستیار هوشمندی برای کمک به داده نیاز دارد، و همین‌جا پرسش حریم خصوصی پیش می‌آید. بسیاری گمان می‌کنند حذف نام و شمارهٔ پرونده داده را «بی‌نام» می‌کند. پژوهش روشه و همکاران با یک مدل آماری برآورد کرد که با ۱۵ ویژگی جمعیت‌شناختی، ۹۹٫۹۸ درصد افراد در جمعیت آمریکا را می‌توان در هر مجموعه‌داده‌ای به‌درستی بازشناسی کرد [۱۶]. پیام این یافته برای متخصصان روشن است: شرح حال مراجعان، حتی بدون نام، جای ورود به ابزارهای عمومی هوش مصنوعی نیست؛ هر استفاده از دادهٔ مراجع باید در چارچوب ضوابط حرفه‌ای و رضایت آگاهانه و با کمترین دادهٔ لازم باشد، زیرا ترکیب چند جزئیات ساده هم می‌تواند فرد را شناسایی‌پذیر کند. کمینه‌سازی داده نخستین خط دفاع است.

پاسخ پرسش عنوان نه «واقعیت» مطلق است و نه «توهم» مطلق. دستیاری که زیر نظارت متخصص، در کارهای محدود و مشخص مانند پیش‌نویس، خلاصه‌سازی یا مرور گزینه‌ها کمک کند، پشتوانهٔ تجربی نسبی دارد. «پزشک یا درمانگرِ هوش مصنوعی» خودمختار چنین پشتوانه‌ای ندارد؛ و در شواهدی که این نوشته بر آن تکیه دارد، کارآزمایی معتبری نشان نداده که این دستیارها پیامد بیماران را بهتر می‌کنند.

پیمایشی در هشت بیمارستان دانشگاهی تهران نشان داد که پذیرش هوش مصنوعی در میان پزشکان و پرستاران با گذراندن دورهٔ آموزشی ارتباط داشت [۱۷]. شاید نقطهٔ شروع همین باشد: پیش از به‌کارگیری هر ابزاری، یاد بگیریم کجا می‌توان به آن تکیه کرد و کجا نه. در به‌زیستن هم هوش مصنوعی، هرجا به کار آید، پشتیبان داوری متخصص است و تصمیم نهایی همیشه با خود اوست.

منابع

  1. Singhal, K., Tu, T., Gottweis, J., Sayres, R., Wulczyn, E., Amin, M., Hou, L., Clark, K., Pfohl, S. R., Cole-Lewis, H., Neal, D., Rashid, Q. M., Schaekermann, M., Wang, A., Dash, D., Chen, J. H., Shah, N. H., Lachgar, S., Mansfield, P. A., … Natarajan, V. (2025). Toward expert-level medical question answering with large language models. Nature Medicine, 31(3), 943–950. https://doi.org/10.1038/s41591-024-03423-7
  2. Ayers, J. W., Poliak, A., Dredze, M., Leas, E. C., Zhu, Z., Kelley, J. B., Faix, D. J., Goodman, A. M., Longhurst, C. A., Hogarth, M., & Smith, D. M. (2023). Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum. JAMA Internal Medicine, 183(6), 589–596. https://doi.org/10.1001/jamainternmed.2023.1838
  3. Goh, E., Gallo, R. J., Strong, E., Weng, Y., Kerman, H., Freed, J. A., Cool, J. A., Kanjee, Z., Lane, K. P., Parsons, A. S., Ahuja, N., Horvitz, E., Yang, D., Milstein, A., Olson, A. P. J., Hom, J., Chen, J. H., & Rodman, A. (2025). GPT-4 assistance for improvement of physician performance on patient care tasks: A randomized controlled trial. Nature Medicine, 31(4), 1233–1238. https://doi.org/10.1038/s41591-024-03456-y
  4. Lukac, P. J., Turner, W., Vangala, S., Chin, A. T., Khalili, J., Shih, Y.-C. T., Sarkisian, C., Cheng, E. M., & Mafi, J. N. (2025). Ambient AI scribes in clinical practice: A randomized trial. NEJM AI, 2(12). https://doi.org/10.1056/AIoa2501000
  5. Asgari, E., Montaña-Brown, N., Dubois, M., Khalil, S., Balloch, J., Yeung, J. A., & Pimenta, D. (2025). A framework to assess clinical safety and hallucination rates of LLMs for medical text summarisation. npj Digital Medicine, 8, Article 274. https://doi.org/10.1038/s41746-025-01670-7
  6. Bedi, S., Liu, Y., Orr-Ewing, L., Dash, D., Koyejo, S., Callahan, A., Fries, J. A., Wornow, M., Swaminathan, A., Lehmann, L. S., Hong, H. J., Kashyap, M., Chaurasia, A. R., Shah, N. R., Singh, K., Tazbaz, T., Milstein, A., Pfeffer, M. A., & Shah, N. H. (2025). Testing and evaluation of health care applications of large language models: A systematic review. JAMA, 333(4), 319–328. https://doi.org/10.1001/jama.2024.21700
  7. Goh, E., Gallo, R., Hom, J., Strong, E., Weng, Y., Kerman, H., Cool, J. A., Kanjee, Z., Parsons, A. S., Ahuja, N., Horvitz, E., Yang, D., Milstein, A., Olson, A. P. J., Rodman, A., & Chen, J. H. (2024). Large language model influence on diagnostic reasoning: A randomized clinical trial. JAMA Network Open, 7(10), e2440969. https://doi.org/10.1001/jamanetworkopen.2024.40969
  8. Bean, A. M., Payne, R. E., Parsons, G., Kirk, H. R., Ciro, J., Mosquera-Gómez, R., Hincapié M, S., Ekanayaka, A. S., Tarassenko, L., Rocher, L., & Mahdi, A. (2026). Reliability of LLMs as medical assistants for the general public: A randomized preregistered study. Nature Medicine, 32(2), 609–615. https://doi.org/10.1038/s41591-025-04074-y
  9. Sheikhalishahi, S., Haddadi, A., Sadeghipour, S., Rafiei, F., & Soltani, H. (2025). Comparative performance of ChatGPT-4o, ChatGPT-5, and Gemini 2.5 Flash on Persian internal medicine subspecialty board exams. Scientific Reports, 16, Article 1371. https://doi.org/10.1038/s41598-025-31251-3
  10. Dratsch, T., Chen, X., Rezazade Mehrizi, M., Kloeckner, R., Mähringer-Kunz, A., Püsken, M., Baeßler, B., Sauer, S., Maintz, D., & Pinto dos Santos, D. (2023). Automation bias in mammography: The impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology, 307(4), e222176. https://doi.org/10.1148/radiol.222176
  11. Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127. https://doi.org/10.1136/amiajnl-2011-000089
  12. World Health Organization. (2024). Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. https://www.who.int/publications/i/item/9789240084759
  13. Heinz, M. V., Mackin, D. M., Trudeau, B. M., Bhattacharya, S., Wang, Y., Banta, H. A., Jewett, A. D., Salzhauer, A. J., Griffin, T. Z., & Jacobson, N. C. (2025). Randomized trial of a generative AI chatbot for mental health treatment. NEJM AI, 2(4). https://doi.org/10.1056/AIoa2400802
  14. Moore, J., Grabb, D., Agnew, W., Klyman, K., Chancellor, S., Ong, D. C., & Haber, N. (2025). Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. In Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency (FAccT '25) (pp. 599–627). ACM. https://doi.org/10.1145/3715275.3732039
  15. American Psychological Association. (2025, November). Health advisory: Use of generative AI chatbots and wellness applications for mental health. https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-chatbots-wellness-apps
  16. Rocher, L., Hendrickx, J. M., & de Montjoye, Y.-A. (2019). Estimating the success of re-identifications in incomplete datasets using generative models. Nature Communications, 10, Article 3069. https://doi.org/10.1038/s41467-019-10933-3
  17. Hamedani, Z., Moradi, M., Kalroozi, F., Manafi Anari, A., Jalalifar, E., Ansari, A., Aski, B. H., Nezamzadeh, M., & Karim, B. (2023). Evaluation of acceptance, attitude, and knowledge towards artificial intelligence and its application from the point of view of physicians and nurses: A provincial survey study in Iran. Health Science Reports, 6(9), e1543. https://doi.org/10.1002/hsr2.1543

شیوهٔ گزینش و استناد منابع این نوشته در اصول تحریریه و شیوهٔ استناد آمده است.

شیوهٔ استنادتحریریهٔ مجلهٔ به‌زیستن. (پاییز ۱۴۰۵). دستیار هوش مصنوعی در کنار متخصصین؛ واقعیت یا یک توهم؟. مجلهٔ به‌زیستن، دورهٔ ۱، شمارهٔ ۱. https://behzistan.org/magazine/technology-ai/ai-assistant-beside-specialists-reality-illusion
بازگشت به ابتدای مقالهبازگشت به شماره