خطر استفاده از هوش مصنوعی به عنوان روانشناس
خطر استفاده از هوش مصنوعی به عنوان روانشناس
آیا استفاده ازهوش مصنوعی برای مشاوره واقعاً خطرناک است؟ چرا استفاده از هوش مصنوعی به عنوان روانشناس خطرناک است؟ آیا هوش مصنوعی می تواند به عنوان مشاور به ما کمک کند؟ خطر استفاده از هوش مصنوعی به عنوان روانشناس چیست؟
نگاهی انتقادی به درمانگری بیاحساس
در سالهای اخیر، با پیشرفت سریع فناوریهای نوین، هوش مصنوعی (AI) در حوزههای مختلف زندگی نفوذ کرده است؛ از صنعت و آموزش گرفته تا پزشکی و حتی روان درمانی. نرمافزارهای چت بات، اپلیکیشنهای تحلیل احساسات، و پلتفرمهای مشاوره خودکار با استقبال زیادی از سوی کاربران مواجه شدهاند، به ویژه آن دسته از افرادی که یا دسترسی راحتی به مشاور انسانی ندارند یا از برچسبهای اجتماعی مربوط به مراجعه به روانشناس واهمه دارند. اما سؤال مهمی که در این میان مطرح می شود این است که آیا هوش مصنوعی میتواند جایگزین روانشناس واقعی باشد؟ پاسخ این سؤال پیچیدهتر از آن است که در نگاه اول به نظر میرسد. در ادامه به بررسی دقیقتر خطرات و چالشهای اصلی این پدیده میپردازیم.
بیشتر بخوانید: مزیت مشاوره تلفنی و آنلاین
توهم همدلی در رواندرمانی با هوش مصنوعی
یکی از مهمترین مولفههای مؤثر در فرآیند رواندرمانی، همدلی است؛ توانایی درک عاطفی و شناختی تجربه فرد دیگر و پاسخ دادن به آن به شیوهای انسانی و پذیرنده. درحالیکه هوش مصنوعی میتواند واژههایی شبیه به همدلی را تقلید کند و بهظاهر جملاتی همدلانه بیان نماید، اما واقعیت آن است که این همدلی صرفاً شبیه سازی زبانی است، نه تجربه ی واقعی احساسی. کاربر ممکن است تصور کند که با یک موجود آگاه و دلسوز در حال گفتگو است، درحالیکه پشت پرده تنها یک الگوریتم تحلیل متن نشسته که بدون درک واقعی از رنج یا احساسات، صرفاً دادهها را پردازش میکند. این توهم همدلی میتواند آسیب زا باشد، چرا که کاربر به اشتباه احساس حمایت شدن دارد، اما در واقع در خلأ احساسی قرار دارد. در طول زمان، این وضعیت میتواند منجر به سرخوردگی، ناامیدی یا حتی عمیقتر شدن بحرانهای روانی شود، به ویژه اگر شخص از دریافت حمایت واقعی انسانی فاصله بگیرد.
سوءبرداشتهای درمانی و انتظارات نادرست
هوش مصنوعی با تمام هوشمندی ظاهری اش، فاقد درک زمینه ای، فرهنگی، و بین فردی است. همین امر موجب میشود که در بسیاری از موارد، توصیه های آن نه تنها ناکارآمد، بلکه در برخی موارد خطرناک یا آسیب زننده باشند. کاربران ممکن است به اشتباه تصور کنند که با یک مشاور حرفه ای گفتگو می کنند و توصیه ها را بهعنوان راهکارهای درمانی تلقی کنند. در واقع، یکی از بزرگ ترین چالشها در این حوزه، نا بهنجاری انتظارات است؛ جایی که کاربر از ابزار غیرانسانی انتظار مداخله درمانی موثر دارد. به عنوان مثال، فردی با سابقه اختلال اضطراب شدید ممکن است از یک چت بات راهکارهایی عمومی و سطحی دریافت کند و آن را جایگزین دارودرمانی یا جلسات روان درمانی حضوری بداند. این سوءبرداشت میتواند با تأخیر در دریافت کمک واقعی، تشدید بحران روانی، و حتی در موارد حاد، پیامدهای فاجعه باری به همراه داشته باشد.
بیشتر بخوانید: ده خطای شناختی مسبب روحیات منفی
خطرات حریم خصوصی در پلتفرم های سلامت روان مبتنی بر هوش مصنوعی
وقتی صحبت از سلامت روان میشود، بحث حریم خصوصی اهمیتی دوچندان می یابد. اطلاعاتی که کاربران در فضای گفتگو با چت بات های درمانی یا اپلیکیشنهای هوش مصنوعی وارد میکنند، اغلب بسیار حساس، شخصی، و گاهی محرمانه هستند؛ مانند سابقه اختلالات روانی، مشکلات خانوادگی، سوابق سوءاستفاده یا افکار خودکشی. اگر این دادهها در فضای ذخیرهسازی ابری، یا در اختیار شرکتهای توسعه دهنده قرار گیرند، امکان نشت یا سوءاستفاده از آنها به وجود می آید. بسیاری از این ابزارها فاقد استانداردهای حرفهای محرمانگی هستند که روانشناسان انسانی ملزم به رعایت آن هستند. حتی در کشورهایی با قوانین شدید حریم خصوصی، هنوز چالشهایی در زمینه شفاف سازی نحوه استفاده از دادههای کاربران هوش مصنوعی وجود دارد. در کشوری مانند ایران که هنوز قوانین جامعی در این حوزه تدوین نشده، این مسئله ابعاد جدی تری پیدا میکند. پرسش نگرانکننده این است: آیا کاربران واقعاً میدانند که اطلاعاتشان کجا ذخیره میشود و چه کسانی به آنها دسترسی دارند؟
چرا نظارت انسانی همچنان ضروری است؟
درمان روان شناختی یک فرآیند پیچیده، چندلایه و مبتنی بر قضاوت انسانی است. روانشناس حرفه ای، نه تنها بر مبنای گفتار فرد، بلکه با تفسیر زبان بدن، حالات چهره، تُن صدا، و حتی سکوتها تصمیم گیری میکند. این درک چندوجهی هنوز خارج از توان سیستمهای هوش مصنوعی است.
مهمتر از آن، روانشناس انسانی مسئولیت پذیر است؛ یعنی در صورت تشخیص اشتباه یا آسیب به مراجعهکننده، پاسخگو خواهد بود. اما در سیستمهای مبتنی بر هوش مصنوعی، مسئولیتپذیری گم است. چه کسی پاسخگوی توصیههای اشتباه یک چتبات خواهد بود؟ شرکت سازنده؟ پلتفرم ارائه دهنده؟ یا خود کاربر؟ این فقدان پاسخگویی میتواند در بحرانهای روانی شدید، عملاً جان افراد را در معرض خطر قرار دهد. همچنین باید توجه داشت که بسیاری از اختلالات روانی، مانند افسردگی شدید، اختلال شخصیت مرزی، یا اختلال استرس پس از سانحه، به شدت به مداخله انسانی نیاز دارند و درمان آنها با روشهای خودکار و ماشینی ممکن نیست. در نتیجه، حضور ناظر انسانی، نه فقط ضروری، بلکه حیاتی است.
مرزهای استفاده و سوءاستفاده از هوش مصنوعی در سلامت روان
بدون تردید، هوش مصنوعی ابزار قدرتمندی است که میتواند در کنار روانشناسان، به عنوان یک دستیار در تشخیص، غربالگری اولیه یا حتی فراهم کردن دسترسی به اطلاعات پایه عمل کند. اما زمانی که جایگزین روانشناس انسانی شود، نهتنها به سلامت روان کمکی نمیکند، بلکه میتواند مخاطرهآمیز باشد. افراد نیاز به ارتباط واقعی، همدلی اصیل و درک انسانی دارند؛ چیزی که الگوریتمها نمیتوانند جایگزین آن شوند. آنچه مهم است، آگاهسازی عمومی، آموزش مسئولانه کاربران، و تنظیم قوانین سختگیرانه برای فعالیت پلتفرمهای سلامت روان مبتنی بر AI است. مشاوره روانشناختی باید همچنان در دست متخصصان باوجدان و آموزشدیده باقی بماند، و هوش مصنوعی تنها در نقش ابزار کمکی، نه جایگزین درمان، ایفای نقش کند. در غیر این صورت، با نسلی از بیماران مواجه خواهیم شد که در توهم درمان زندگی میکنند، بیآنکه واقعاً درمان شده باشند.
جهت مشاوره و راهنمایی بیشتر با شماره های زیر۰۲۱۲۶۶۴۵۱۷۳-۰۲۱۲۶۶۴۵۱۶۱و یا شماره ۰۹۰۳۴۲۳۰۷۸۹ تماس بگیرید. مجموعه روان پناه همراه با دکتر سمانه سلامیان روانشناسی بالینی و دکتر سامان سلامیان روانشناس نوجوان در خدمت شما عزیزان است.