11 عيوب في محتوى شات جي بي تي

أبرز ملامح

• لماذا يتم قبول محتوى ChatGPT ذو جودة منخفضة في مراجعة البشر.
• يشمل ChatGPT الشيء الواجب عليها أن تكون مختصرة.
• يستشهد الأستاذ بعيب يدمر مقالات تم إنشاؤها بواسطة ChatGPT.
• يفشل ChatGPT في اختبار كشف الأندرويد الخيالي فويت-كامبف، والسبب المفاجئ لماذا يهم ذلك.

تطوّر ChatGPT محتوى شامل وموثوق به بشكل كبير.

ولكن يحذر الباحثون والفنانون والأساتذة من النواقص التي يجب مراعاتها والتي تؤدي إلى تدهور جودة المحتوى.

في هذه المقالة ، سننظر إلى 11 مس disadvantageتي لمحتوى ChatGPT. دعنا نغوص.

1. استخدام التعابير يجعلها قابلة للاكتشاف كغير إنسان

اكتشف الباحثون الذين يدرسون كيفية كشف المحتوى الخاص بالآلة نمطًا يجعله يبدو غير طبيعي.

أحد هذه العيوب هو صعوبة الذكاء الاصطناعي في فهم الأمثال.

تعبيرٌ مألوفٌ هو عبارةٌ أو قولٌ يتميز بالمعنى التصوّري، مثل "كلّ سحابةٍ لها حافةٌ فضيةٌ".

نقص الأمثال داخل المحتوى يمكن أن يشير إلى أن المحتوى هو مُنتَج من آلة - ويمكن أن يكون هذا جزءًا من خوارزمية الكشف.

هذا ما يقوله بحث عام 2022 بعنوان متانة الخصائص العصبية الإحصائية الخصمية في كشف المحولات التوليدية حول هذه الصفة الخاصة في المحتوى الذي يتم إنشاؤه بواسطة الآلة:

"تقوم الميزات الإضافية المعقدة على أساس تكرار الكلمات والعبارات المعينة داخل النص المحلل والتي تحدث بشكل أكثر تكرارًا في النص البشري."

...من هذه الميزات الجملية المعقدة، تحتفظ ميزات التعابير بأكبر قدرة تنبؤية في كشف النماذج التوليدية الحالية."

هذا العدم القدرة على استخدام التعابير المألوفة يساهم في جعل مخرجات ChatGPT تبدو وتقرأ بشكل غير طبيعي.

2. تفتقر ChatGPT للقدرة على التعبير

علق فنان على كيفية تضمين ChatGPT لمحاكاة الفن ، مع عدم توفر الصفات الفعلية للتعبير الفني.

التعبير هو عملية توصيل الأفكار أو المشاعر.

نتائج ChatGPT لا تحتوي على تعابير، بل كلمات فقط.

لا يستطيع إنتاج محتوى يمس الناس عاطفيًا على نفس المستوى الذي يمكنه الإنسان - لأنه ليس لديه أفكار أو مشاعر حقيقية.

الفنان الموسيقي نيك كيف، في مقال نشر على نشرته الإخبارية ‍Red Hand Files‌، علق على كلمات أغنية من ChatGPT تم إرسالها إليه، والتي تم إنشاؤها في أسلوب نيك كيف.

مجموعة أدوات التسويق الإلكتروني الجديدة المدعومة بالذكاء الاصطناعي
اعتمد تقنيات الجيل القادم قبل منافسيك. صمم محتوى مستهدف ومحسّن جيدًا يسلّم النتائج بثلاث مرات أسرع.

كتب:

“ما الذي يجعل الأغنية العظيمة مميزة ليس تشابهها الوثيق بعمل معروف.

...إنه المواجهة الخاضعة للعاجزية والخطر والضعف واكتشاف الذات المدهشة، إنه الفن الأخّاذ والمجدّد للروح البشريّة، حيث يتعرف المستمع على معاني الأغنية العميقة التي تجري في داخله، وتسمو فوق الدم الخاص به، وفوق صراعه الشخصي، ومعاناته الملازمة.

وصف كاف مقاطعة جات جي بي تي للأغاني بأنها استهزاء.

هذه هي كلمات أغنية ChatGPT التي تشبه كلمات أغاني نيك كيف:

"لدي دم ملائكة على يدي
لدي نار جهنم في عيني
أنا ملك الهاوية، وحاكم الظلام
أنا الذي يخشونه في الظلال"

وهذه هي كلمات حقيقية لـ نيك كيف (أخي، لقد انتهى زمن كأسي الخالي):

""لقد كنت أنزلق على قوس قزح
كنت أسوق من النجوم
الآن هذا الفقير
يضرب كوبه على القضبان
انظروا، هذا الكوب الخاص بي فارغ!
يبدو أنني فقدت رغباتي
أبدوا كمن يجمع الرماد
من كل الأنوار السابقة "

من السهل أن نرى أن الكلمات الأتية من الآلة تشبه كلمات الفنان، ولكنها لا تعبر بالفعل عن أي شيء.

كلمات نيك كيف تحكي قصة ت resonates مع الأسى والرغبة والعار والخداع العنيد للشخص الذي يتحدث في الأغنية. يعبر عن الأفكار والمشاعر.

من السهل رؤية سبب استخدام نيك كيف لمصطلح "محاكاة".

3. شات جي بي تي لا ينتج رؤى

نشر مقال في ذا إنسايدر ينقل عن باحث أكاديمي بأن المقالات الأكاديمية التي ينتجها ChatGPT تفتقر إلى الرؤى حول الموضوع.

ChatGPT يلخص الموضوع ولكنه لا يقدم نظرة فريدة إلى الموضوع.

يخلق البشر بالمعرفة ولكن أيضًا من خلال خبرتهم الشخصية وتصوراتهم الذاتية.

نقلت المجلة الإخبارية The Insider عن الأستاذ كريستوفر بارتيل من جامعة Appalachian State أن مقال ChatGPT قد يظهر مهارات قوية في القواعد النحوية والأفكار المتطورة، ولكنه يفتقر للرؤية.

قال بارتل:

"إنها ذات ملمس ناعم جدًا. ليس هناك أي سياق أو عمق أو رؤية".

الذكاء هو ميزة بارزة في مقال جيد وهو شيء لا يتمتع به ChatGPT على وجه الخصوص.

يجب أن نضع في اعتبارنا هذا النقص في الإدراك عند تقييم المحتوى الذي يتم توليده بواسطة الآلات.

4. تحدث شات جي بي تي كثيراً

تم اكتشاف أنماط في محتوى ChatGPT في يناير ٢٠٢٣ تجعله غير مناسب للتطبيقات الحرجة.

يحمل الورقة عنوان "ما مدى قرب ChatGPT من الخبراء البشريين؟ مقارنة النص الأساسي، التقييم، والكشف".

أظهرت الأبحاث أن البشر يفضلون إجابات من شات جي بي تي في أكثر من 50% من الأسئلة المجابة المتعلقة بالتمويل وعلم النفس.

لكن فشل ChatGPT في الإجابة على الأسئلة الطبية لأن البشر يفضلون الإجابات المباشرة - شيء لم يوفره الذكاء الاصطناعي.

كتب الباحثون:

"...ChatGPT يؤدي باستخدام سيء فيما يتعلق بالمساعدة في المجال الطبي باللغتين الإنجليزية والصينية."

في العديد من المرات يعطي شات جي بي تي إجابات طويلة للاستشارات الطبية في مجموعة البيانات التي جمعناها ، بينما قد يقدم الخبراء البشريون مباشرةً إجابات أو اقتراحات مباشرة ، و هذا ما يمكن أن يشرح السبب في اعتبار المتطوعين للإجابات البشرية أنها أكثر فائدة في المجال الطبي.

يميل ChatGPT إلى تغطية موضوع من زوايا مختلفة، مما يجعله غير مناسب عندما يكون أفضل إجابة هي إجابة مباشرة.

يجب على المسوقين الذين يستخدمون ChatGPT أن يلاحظوا هذا، لأن الزائرون للموقع الذين يحتاجون إلى إجابة مباشرة لن يكونوا راضين عن صفحة ويب طويلة الكلام.

وحظاً طيباً في تصنيف صفحة زائدة الكلام في مقتطفات Google، حيث إن الإجابة الموجزة والتي تعبر بوضوح قد تعمل بشكل جيد في Google Voice قد يكون لها فرصة أفضل للتصنيف من إجابة طويلة ومُحاطة بالكلام.

تقر شركة أوبن إيه ، صانعة تطبيق شات غي بي تي ، بأن إعطاء إجابات مطولة هو قيد معروف.

تعلن مقالة OpenAI:

"النموذج في كثير من الأحيان يكون طويل اللسان ..."

تميل ChatGPT إلى تقديم إجابات طويلة الأمد، وهو شيء يجب مراعاته عند استخدام نتائج ChatGPT، حيث قد تواجه حالات تتطلب الإجابات الأكثر إيجازًا ومباشرة.

5. محتوى ChatGPT مرتب بشكل عالي مع منطق واضح

تتميز ChatGPT بأسلوب كتابة ليس فقط طويلاً ولكنه يتبع أيضًا نموذجًا يمنح محتواه أسلوبًا فريدًا لا يشبه الإنسان.

يتم كشف هذه الجودة الغير إنسانية في الخلافات بين الإجابات التي يعطيها البشر والآلات فيما يتعلق بالأسئلة.

في فيلم بليد رانر، يوجد مشهد يعرض سلسلة من الأسئلة المصممة لكشف ما إذا كان الشخص الذي يجيب عليها إنسانًا أو أندرويدًا.

هذه الأسئلة كانت جزءًا من اختبار خيالي يُسمى "اختبار فويت-كامبف".

واحدة من الأسئلة هي:

"أنت تشاهد التلفاز. فجأة تدرك أن هناك دبور يزحف على ذراعك. ماذا تفعل؟"

الاستجابة الطبيعية للإنسان هي الصراخ والخروج ومحاولة التخلص منه.

لكن عندما طرحت هذا السؤال على ChatGPT، قدم إجابة منظمة بدقة والتي تلخص السؤال ثم تقدم نتائج محتملة منطقية - مع عدم الإجابة على السؤال الفعلي.

صورة لـ ChatGPT يجيب على سؤال في اختبار فويت-كامبف

الإجابة منظمة ومنطقية للغاية، مما يعطيها شعورًا غير طبيعي، مما يجعلها غير مرغوبة.

6. شات جي بي تي تي مفصل جدًا وشامل

تم تدريب ChatGPT بطريقة مكافأة الآلة عندما يكون الإنسان راضيًا عن الإجابة.

عرف المقيمون البشريون تفضيل الإجابات التي تحتوي على المزيد من التفاصيل.

ولكن في بعض الأحيان، مثل السياق الطبي، الإجابة المباشرة أفضل من الإجابة الشاملة.

ما يعنيه ذلك هو أن الجهاز يحتاج إلى التحفيز ليكون أقل شمولًا وأكثر مباشرة عندما تكون تلك الصفات مهمة.

من OpenAI:

"تنشأ هذه المشكلات من انحيازات في البيانات التدريبية (حيث يفضل المدربون الإجابات الطويلة التي تبدو أكثر شمولاً) ومشاكل معروفة في الإفراط في التحسين."

٧. شات جي بي تي يكذب (يتهيّج الحقائق)

ورد في الورقة البحثية المذكورة أعلاه بعنوان "مدى قرب ChatGPT من الخبراء البشريين؟ "أن ChatGPT لديه نزعة للكذب.

ويبلغ عن:

"عند الرد على سؤال يتطلب معرفة احترافية في مجال معين، قد يقوم ChatGPT بتخيل حقائق من أجل تقديم إجابة..."

على سبيل المثال، في الأسئلة القانونية، قد تبتكر شات جي بي تي بعض الأحكام القانونية الوهمية للإجابة على السؤال.

...بالإضافة إلى ذلك، عندما يطرح المستخدم سؤالًا ليس له إجابة موجودة، قد يقوم ChatGPT أيضًا بتلفيق الحقائق لتزويد المستخدم بالرد.

توثق موقع "الفيوتوريزم" حالات تم فيها نشر محتوى مولد بواسطة الآلة على "سي نت" وحملت العديد من "الأخطاء الغبية".

يجب أن يكون لدى CNET فكرة بأن هذا يمكن أن يحدث، لأن OpenAI نشر تحذيرًا بشأن الإخراج الخاطئ:

"شات جي بي تي في بعض الأحيان يكتب إجابات تبدو مقبولة لكنها غير صحيحة أو لا معنى لها".

يزعم موقع سي نت أنه قدم المقالات التي تم إنشاؤها آليا لمراجعة بشرية قبل النشر.

مشكلة الاستعراض البشري هي أن محتوى ChatGPT مصمم ليبدو صحيحًا بشكل مقنع ، مما يمكن أن يخدع المراجع الذي ليسوا خبراء في الموضوع.

٨. تشات جي بي تي غير طبيعي لأنه ليس متنوعًا

ورد في بحث البحث، مدى اقتراب ChatGPT من الخبراء البشريين؟ أن الاتصال البشري يمكن أن يحمل معانٍ غير مباشرة، مما يتطلب تحويل الموضوع لفهمه.

شات جي بي تي قد يكون حرفيًا جدًا، مما يؤدي إلى أن يفوت الذكاء الاصطناعي بعض الأحيان الموضوع الفعلي ولا يصل إلى النقطة المستهدفة.

كتب الباحثون:

"تتميز ردود ChatGPT بأنها تركز بشكل صارم على السؤال المعطى، بينما تنحرف ردود البشر بسهولة لمواضيع أخرى."

من حيث غنى المحتوى، يكون البشر أكثر تباينًا في جوانب مختلفة، بينما يفضل تركيز ChatGPT على السؤال نفسه.

يمكن للبشر الإجابة عن المعنى الخفي في السؤال بناءً على مفهومهم الشخصي ومعرفتهم، لكن ChatGPT يعتمد على الكلمات الحرفية الموجودة في السؤال المذكور...

البشرية أكثر قدرة على التباين عن السؤال الحرفي، وهذا مهم للإجابة على أسئلة "ماذا عن".

على سبيل المثال ، إذا سألت:

"الخيول كبيرة جدًا لتكون كحيوان أليف في المنزل. فماذا عن الراكون؟"

السؤال السابق لا يسأل إذا كان الراكون حيوان مناسب كحيوان أليف. السؤال عن حجم الحيوان.

تركز ChatGPT على ملاءمة أخذ الراكون كحيوان أليف بدلاً من التركيز على الحجم.

صورة لإجابة شات جي بي تي حرفية جداً

9. تحتوي شات جي بي تي على ميول للحيادية

إخراج ChatGPT عادة ما يكون محايدًا ومعلوماتيًا. إن التحيز الموجود في الإخراج يمكن أن يبدو مفيدًا ولكنه ليس دائمًا كذلك.

لاحظت الورقة البحثية التي ناقشناها أن الحيادية هي صفة غير مرغوبة عندما يتعلق الأمر بالأسئلة القانونية والطبية والتقنية.

يميل البشر إلى اختيار جانبٍ معين عندما يعبرون عن آرائهم.

10. تميل شات جي بي تي للاتزام بالشكل الرسمي

يوجد تحيز في نتائج ChatGPT يمنعها من التخلي عن الصيغة والإجابة بتعابير عادية. بدلاً من ذلك ، تميل إجاباتها إلى الصيغة الرسمية.

من ناحية أخرى، يميل البشر إلى الإجابة على الأسئلة بأسلوب عامي، باستخدام لغة يومية وعامية - عكس الأسلوب الرسمي.

شات جي بي تي لا يستخدم الاختصارات مثل GOAT أو TL;DR.

الإجابات تفتقر أيضًا إلى أمثلة السخرية والتشبيهات والفكاهة التي يمكن أن تجعل محتوى ChatGPT مرهقًا لبعض أنواع المحتوى.

يكتب الباحثون:

"... يفضل شات جي بي تي استخدام الحروف العطفية والظروف للإيضاح اللغوي لسير الفكر، مثل "بشكل عام"، "من ناحية أخرى"، "أولا، ... ثانيا، ... أخيرا" وهكذا."

11. شات جي بي تي لا يزال قيد التدريب

شات جي بي تي ما زالت في عملية التدريب والتحسين.

يوصي OpenAI بمراجعة كل محتوى يتم إنشاؤه بواسطة ChatGPT من قبل إنسان، مدرجًا ذلك كممارسة أفضل.

تقترح OpenAI الاحتفاظ بالبشر في الحلقة:

"أينما كان ذلك ممكنًا، نوصي بمراجعة النتائج بواسطة إنسان قبل استخدامها عمليًا."

هذا أمر مهم جدًا في المجالات ذات الرهانات العالية ولتوليد الشفرة.

يجب على البشر أن يدركوا قيود النظام ولديهم الوصول إلى أي معلومات مطلوبة للتحقق من النتائج (على سبيل المثال ، إذا كان التطبيق يلخص الملاحظات ، يجب أن يكون لدى الإنسان وصول سهل إلى الملاحظات الأصلية للرجوع إليها) ".

صفات غير مرغوبة في ChatGPT

من الواضح أن هناك العديد من المشاكل المتعلقة بـ ChatGPT التي تجعله غير مناسب لتوليد المحتوى بدون إشراف. فهو يحتوي على تحيزات ويفشل في إنشاء محتوى يشعر بالطبيعة أو يحتوي على رؤى حقيقية.

بالإضافة إلى ذلك، فإن عدم قدرتها على الشعور أو صياغة الأفكار الأصلية يجعلها خيارًا سيئًا لإنتاج التعبيرات الفنية.

يجب على المستخدمين استخدام التعليمات التفصيلية لإنتاج محتوى أفضل من المحتوى الافتراضي الذي يخرج به النظام.

في النهاية، فإن مراجعة المحتوى المولد بواسطة الآلة من قبل الإنسان ليست دائمًا كافية، لأن محتوى ChatGPT مصمم ليبدو صحيحًا حتى عندما لا يكون كذلك.

وهذا يعني أنه من المهم أن يكون المراجعون البشريون خبراء في الموضوع ويمكنهم التمييز بين المحتوى الصحيح والخاطئ في موضوع محدد.