يعتمد الذكاء الاصطناعي في توليد النصوص على أنماط لغوية تعلمها من كميات هائلة من البيانات التي كتبها البشر، لذلك فإن مخرجاته تستند في الأصل إلى أنماط مستخلصة من الإبداع البشري. وفي المقابل، ظهرت أدوات تدّعي قدرتها على التمييز بين النصوص البشرية وتلك التي أنشأها الذكاء الاصطناعي، لكنها تعتمد على مؤشرات إحصائية واحتمالات، وليست قادرة على الجزم بدقة في جميع الحالات.
وتبرز هنا إشكالية تواجه عددًا من الكُتّاب والباحثين، إذ قد يلجأ بعضهم إلى استخدام الذكاء الاصطناعي في مهام محدودة، مثل التدقيق اللغوي أو تحسين الصياغة، دون أن يكون هو من كتب النص. ومع ذلك، قد تصنف بعض أدوات الكشف هذه النصوص على أنها "مولدة بالذكاء الاصطناعي"، بسبب التعديلات التي أُدخلت عليها أو لأن أسلوبها أصبح أكثر انتظامًا، وهو ما قد يؤدي إلى نتائج غير دقيقة ويظلم أصحاب النصوص الأصلية.
وتعتمد أدوات كشف النصوص المولدة بالذكاء الاصطناعي على تحليل مؤشرات إحصائية وأنماط لغوية، مثل درجة انتظام الجمل، وتكرار بعض التراكيب، وتوقع الكلمة التالية، ومستوى التنوع في المفردات، إلى جانب عوامل أخرى. وهي لا تبحث عن "بصمة" رقمية داخل النص، وإنما تقدم تقديرًا احتماليًا قد يصيب أو يخطئ.
وفي بعض الحالات، قد تبدو النصوص المولدة بالذكاء الاصطناعي أكثر انتظامًا من الكتابة البشرية، فتخلو من الأخطاء اللغوية والإملائية، وتتميز بتناسق كبير في الأسلوب. إلا أن هذه السمات ليست حصرية للذكاء الاصطناعي، إذ قد تتوافر أيضًا في نصوص يكتبها مؤلفون محترفون أو نصوص خضعت لمراجعة وتحرير دقيقين.
لذلك، ينصح الخبراء بعدم الاعتماد على نتائج أدوات الكشف باعتبارها دليلًا قاطعًا، وإنما استخدامها كمؤشر أولي فقط، مع تقييم المحتوى في سياقه ومراعاة طبيعة العمل وأساليب كتابته، خاصة في ظل التطور المستمر لتقنيات الذكاء الاصطناعي، الذي يجعل التمييز بين النصوص البشرية والمولدة آليًا أكثر صعوبة يومًا بعد يوم.