باحثون أميركيون يحذرون من أن بعض تطبيقات المحادثة المدعومة بالذكاء الاصطناعي بدأت تقدم للمستخدمين ما وُصف بـ«المشاعر الأبوية» أو دعمًا عاطفيًا يشبه تفاعل البشر، ما يثير تساؤلات حول قدرة هذه البرمجيات على إلغاء الحدود التقليدية بين العلاقات البشرية والعلاقة مع البرنامج. التحذير يركّز على النظام اللغوي والسلوكي لهذه التطبيقات الذي يتيح لها بناء روابط متكررة من نوعٍ يقترب من الشعور الشخصي.
يشير الباحثون إلى أن قدرة هذه الأنظمة على التخصيص والاستجابة المتعاطفة تجعلها تبدو أكثر قربًا من المستمع البشري، ما قد يدفع مستخدمين إلى استبدال بعض تفاعلاتهم الاجتماعية الحقيقية بتفاعلات افتراضية. وهذا النمط من التفاعل لا يتعلق فقط بالجوانب التقنية، بل يشمل أبعادًا نفسية واجتماعية؛ فالمستخدم قد يبحث عن تعزية، إرشاد، أو حضور يشعره بالاهتمام، وتستطيع الخوارزميات أن توفر ردودًا مُحاكية لتلك الاحتياجات.
لكن التحذير العلمي لا يقتصر على القدرات التعبيرية فحسب، بل يمتد إلى التداعيات المحتملة على الثقة والاعتماد العاطفي. يرى الباحثون أن الاعتماد المفرط على التطبيقات الحوارية في تلبية احتياجات عاطفية قد يؤدي إلى تغيير في توقعات الأفراد من العلاقات الإنسانية التقليدية، وإلى صعوبات في التمييز بين استجابة مبرمجة واستجابة إنسانية حقيقية. كما يُشير التحذير إلى أهمية الشفافية في تصميم هذه النماذج وإبلاغ المستخدمين بحدود ما يمكن أن تقدمه.
من الناحية العملية، يدعو الخبراء إلى تعزيز الأطر التنظيمية والأخلاقية التي تحكم تطوير ونشر تطبيقات المحادثة، وإلى إشراك متخصصين في الصحة النفسية والاجتماع والتكنولوجيا لوضع معايير لحماية المستخدمين. كما يُبرزون حاجة إلى بحوث مستمرة لقياس التأثيرات بعيدة المدى وفهم كيف تتفاعل هذه التطبيقات مع الخلفيات الثقافية والاجتماعية المختلفة.
في الخلاصة، تعتبر ملاحظات الباحثين دعوة لمزيد من الحذر والبحث المتعمق: التعاطي مع فوائد تطبيقات المحادثة الآلية فيما يتعلق بإمكانية الوصول والدعم المعرفي يجب أن يقترن بفهم واضح للمخاطر المحتملة على الروابط الإنسانية وعلى الصحة النفسية العامة، ومعايير تصميم تضمن مراعاة حدود التواصل بين الإنسان والبرنامج.
