OpenAI يصدر أداة لاكتشاف المحتوى المكتوب بالذكاء الاصطناعي

تركيز – أصدرت OpenAI، شركة أبحاث الذكاء الاصطناعي وراء ChatGPT، أداة جديدة لاكتشاف وللتمييز بين النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي تم إنشاؤه بواسطة الإنسان.

على الرغم من أنه من المستحيل اكتشاف نص المحتوى المكتوب بالذكاء الاصطناعي بدقة 100٪، يعتقد OpenAI أن أداته الجديدة يمكن أن تساعد في التخفيف من الادعاءات الكاذبة بأن البشر كتبوا محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي.

في إعلان ، قالت شركة OpenAI إن أداة تصنيف النص الجديدة بالذكاء الاصطناعي يمكنها أن تحد من القدرة على تشغيل حملات المعلومات الخاطئة الآلية ، واستخدام أدوات الذكاء الاصطناعي للاحتيال الأكاديمي ، وانتحال شخصية البشر باستخدام روبوتات المحادثة.

عند اختبارها على مجموعة من النصوص الإنجليزية، يمكن للأداة أن تقول بشكل صحيح ما إذا كان النص مكتوبًا بواسطة الذكاء الاصطناعي 26٪ من الوقت. لكنها اعتقدت خطأً أيضًا أن النص الذي كتبه الإنسان كتبه الذكاء الاصطناعي 9٪ من الوقت.

تقول OpenAI إن أداتها تعمل بشكل أفضل كلما طال النص، وهذا قد يكون السبب في أنها تتطلب ما لا يقل عن 1000 حرف لإجراء اختبار.

تشمل القيود الأخرى لمصنف النص OpenAI الجديد ما يلي:

• يمكن أن يخطئ في تسمية النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والنص المكتوب بواسطة الإنسان.
• يمكن للنص الذي تم إنشاؤه بواسطة AI التهرب من المصنف بإجراء تعديلات طفيفة.
• يمكن أن يخطئ في النص المكتوب من قبل الأطفال وعلى نصوص ليست باللغة الإنجليزية لأنه تم تدريبه بشكل أساسي على محتوى باللغة الإنجليزية كتبه الكبار.

مع وضع ذلك في الاعتبار، دعونا نلقي نظرة على كيفية أدائها.

استخدام مصنف نص الذكاء الاصطناعي الخاص بـ OpenAI

تصنيف نص الذكاء الاصطناعي من OpenAI سهل الاستخدام. قم بتسجيل الدخول، ولصق النص الذي تريد اختباره، واضغط على زر الإرسال.

ستقيم الأداة احتمالية قيام الذكاء الاصطناعي بإنشاء النص الذي قدمته. وتتراوح النتائج بين ما يلي:

• من المستبعد جدا
• من غير المرجح
• من غير الواضح ما إذا كان كذلك
• ربما
• محتمل

لقد اختبرت ذلك عن طريق مطالبة ChatGPT بكتابة مقال عن مُحسّنات محرّكات البحث . ثم إرسال النص حرفياً إلى مُصنف النص بالذكاء الاصطناعي.

لقد صنف المقال الذي تم إنشاؤه بواسطة ChatGPT على أنه ربما تم إنشاؤه بواسطة الذكاء الاصطناعي، وهو مؤشر قوي ولكنه غير مؤكد.

توضح هذه النتيجة قيود الأداة، حيث لم تستطع القول بدرجة عالية. من اليقين أن النص الذي تم إنشاؤه بواسطة ChatGPT كتبه الذكاء الاصطناعي.

من خلال تطبيق التعديلات الطفيفة التي اقترحتها Grammarly، خفضت التصنيف من المحتمل إلى غير واضح.

OpenAI محق في القول إنه من السهل التهرب من المصنف. ومع ذلك، ليس من المفترض أن يكون الدليل الوحيد على أن الذكاء الاصطناعي كتب شيئًا ما.

في قسم الأسئلة الشائعة أسفل الصفحة، ينص OpenAI على ما يلي:

“يتمثل استخدامنا المقصود لمصنف نص الذكاء الاصطناعي في تعزيز المحادثة حول التمييز بين المحتوى المكتوب من قبل الإنسان والمحتوى الناتج عن الذكاء الاصطناعي. قد تساعد النتائج، ولكن لا ينبغي أن تكون الدليل الوحيد عند تقرير ما إذا كان المستند قد تم إنشاؤه باستخدام الذكاء الاصطناعي. يتم تدريب النموذج على نص مكتوب بشريًا من مجموعة متنوعة من المصادر، والتي قد لا تمثل جميع أنواع النصوص المكتوبة بشريًا. “

يضيف OpenAI أن الأداة لم يتم اختبارها بدقة لاكتشاف المحتوى الذي يحتوي على مزيج من الذكاء الاصطناعي والنص المكتوب من قبل الإنسان.

في النهاية، يمكن أن يكون مصنف نص الذكاء الاصطناعي مصدرًا قيمًا للإبلاغ عن النص. الذي يحتمل أن يتم إنشاؤه بواسطة الذكاء الاصطناعي، ولكن لا ينبغي استخدامه كإجراء نهائي لإصدار الحكم.

الملخص

• يمكن أن يساعد مصنف نص الذكاء الاصطناعي من OpenAI في اكتشاف المحتوى الناتج عن الذكاء الاصطناعي، لكنه ليس دقيقًا بنسبة 100٪ ويمكن أن يرتكب أخطاء.
• يمكن أن يسيء تسمية كل من النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والنص المكتوب بواسطة الإنسان، ويمكن أيضًا التهرب منه بتعديلات طفيفة.
• لا ينبغي أن يكون مصنف نص الذكاء الاصطناعي هو الدليل الوحيد المستخدم عند إصدار حكم حول ما إذا كان الذكاء الاصطناعي قد أنشأ مستندًا.