مع الانتشار الواسع لاستخدام الذكاء الاصطناعي، تظهر مخاطر الاعتماد عليه دون مراجعة أو تمحيص. فعلى الرغم من كونه «ذكاء» تقنياً، إلا أنه قد يقدم أحياناً معلومات غير دقيقة، ويرتكب أخطاء تُعرف بـ«الهلوسة»، حيث يولد استجابات خاطئة أو خارج السياق، أو حتى يقدم شهادات زائفة حول أحداث تاريخية. هذا التناقض بين التوقعات العالية من الذكاء الاصطناعي وبين أخطائه المحتملة يثير تساؤلات حول مدى موثوقيته والحاجة المستمرة لمراقبة نتائجه وتحريرها.
ورغم جهود المطورين لتحسين قدرات الذكاء الاصطناعي، إلا أن الاعتماد على بيانات عامة قد يؤدي إلى إجابات غير دقيقة، مما يدفع المستخدمين إلى تحرير المحتوى المُنتج. وأظهر استطلاع من معهد ماساتشوستس للتكنولوجيا، أن 41% من الطلاب يحررون المحتوى الذي ينتجه الذكاء الاصطناعي، بينما فقط 3% لا يفعلون ذلك أبداً، مما يعكس أهمية التحرير لضمان دقة المحتوى.
في المقابل، اعترف طلاب آخرون باستخدام الذكاء الاصطناعي للغش في المهمات والاختبارات، وفقاً لاستطلاع أجرته إحدى الجامعات. ورغم مخاوف النزاهة الأكاديمية، فإن الذكاء الاصطناعي أضاف تجارب إيجابية، حيث يستخدمه 51% من الطلاب للحصول على إجابات قد يترددون في طلبها من البالغين، إلى جانب استخدامات إبداعية كصنع الصور والموسيقى وكتابة الأكواد.
وبينما يعتمد العديد من الطلاب على الذكاء الاصطناعي، ينظر المعلمون بحذر إلى تأثيره على التعليم، إذ يعتبرونه عقبة أمام تعلّم المهارات الأساسية في الرياضيات والقراءة والكتابة. ومع تزايد استخدام الذكاء الاصطناعي، يبقى التحدي في كيفية التوازن بين فوائده ومخاطره، وبين الإبداع والدقة.