نتائج البحث الآمن من Google براءات الاختراع وإعادة تصنيف النتائج أو إزالتها

كيف تستخدم Google فلتر نتائج البحث الآمن للتعامل مع نتائج البحث غير الملائمة أو الحساسة أو المسيئة؟

تتمثل إحدى المشكلات التي قد يواجهها الباحثون في الإنترنت في اندهاشهم بالمحتوى الذي لا يتوقعون رؤيته أو الكشف عن أشخاص آخرين أيضًا. تخبرنا براءة اختراع تم منحها مؤخرًا في Google عن جهود محركات البحث لحماية الباحثين من مثل هذا المحتوى. كما صاغوها في براءة الاختراع تلك:

يمكن لمستخدمي الإنترنت البحث عن أنواع مختلفة من المحتوى باستخدام محركات البحث. قد يتضمن محتوى الإنترنت محتوى حساسًا أو مسيئًا مثل المواد الإباحية والصور الدموية والمحتوى العنيف ، على سبيل المثال. في بعض الحالات ، قد يتعرض المستخدمون قسريًا لمحتوى حساس غير لائق أو مسيء. وفقًا لذلك ، قد يكون من المرغوب فيه الحد من التعرض لمحتوى حساس أو مسيء غير مناسب متاح على الإنترنت.

تشير براءة الاختراع إلى نتائج البحث الآمن عدة مرات ، وأتذكر أنني سمعت عن كون مات كاتس من Google مسؤولاً عن عرض Google لنتائج البحث الآمن قبل أن يصبح رئيس قسم البريد العشوائي في Google. تساءلت عما إذا كانت هناك براءة اختراع لنتائج البحث الآمن ، أو ما إذا كان له أي علاقة بذلك ، لكنني لم أره. يذكر هذا الشخص نتائج البحث الآمن مرات كافية لدرجة أنني سأفكر فيها على الأرجح على أنها براءة اختراع لنتائج البحث الآمن من Google.

الغرض من براءة اختراع نتائج البحث الآمن من Google هو حماية الباحثين الذين يستخدمون محرك بحث Google من التعرض للمحتوى الذي قد لا يرغبون في رؤيته:

يصف هذا الكشف بشكل عام طريقة ونظام لتطبيق المصنفات على استعلامات البحث ونتائج البحث لتوفير تجربة بحث يتم فيها حماية المستخدمين من التعرض لمحتوى مسيء أو حساس غير لائق.

بالضبط كيف تعمل مصنفات نتائج البحث الآمنة؟

1) استجابةً لاستعلام ما ، سيعيد محرك البحث مجموعة أولية من SERPs.
2) يتم تصنيف الاستعلام بواسطة مصنف لتحديد ما إذا كان يتضمن مصطلحًا واحدًا أو أكثر مرتبطًا بفئة محمية من الأشخاص أو المصطلحات المرتبطة بمحتوى حساس أو مسيء ، مثل المحتوى الإباحي أو العنيف.
3) يتم تصنيف النتائج الأولية أيضًا لتحديد ما إذا كانت تحتوي على محتوى حساس أو مسيء
4) يتم إرجاع نتائج البحث إلى الباحث بحيث لا يتم عرض المحتوى الحساس أو المسيء للباحث.

يتلقى الباحث إشارة إلى تصنيف استعلام البحث ليشمل مصطلحات الاستعلام التي

(ط) لا تتعلق على الأرجح بفئة معينة من الناس ،
(2) من المحتمل أن تكون مرتبطة بفئة معينة من الناس ، أو
(3) من المحتمل أن تكون مرتبطة بفئة معينة من الناس وتتضمن مصطلحات حساسة أو مسيئة.

أيضًا ، سيتم إخبارهم بأن نتيجة البحث مصنفة على أنها من المحتمل أن تتضمن

(ط) محتوى غير حساس وغير مسيء ، أو
(2) المحتوى الحساس أو المسيء.

من مجموعة نتائج البحث المرشحة ، يتم تحديد مجموعة عرض تقديمي لنتائج البحث الآمنة والتي ستظهر على الأقل في
(ط) الإشارة إلى تصنيف استعلام البحث على أنه يتضمن مصطلحات الاستعلام التي

(1) ليس من المحتمل أن تكون مرتبطة بفئة معينة من الناس ،
(2) من المحتمل أن تكون مرتبطة بفئة معينة من الناس ، أو
(3) من المحتمل أن تكون مرتبطة بفئة معينة من الناس وتتضمن مصطلحات حساسة أو مسيئة ، و

(2) الإشارة إلى تصنيف نتيجة البحث على الأرجح بما في ذلك:

(ط) محتوى غير حساس وغير مسيء ، أو
(2) المحتوى الحساس أو المسيء. يتم توفير نتيجة بحث واحدة أو أكثر لمجموعة نتائج البحث في العرض التقديمي للإخراج استجابةً لاستعلام البحث.

بالنسبة لبعض هذه النتائج ، هناك فئة معينة من الأشخاص المتأثرين والتي تشمل مجموعة من الأشخاص لديهم سمة ديموغرافية واحدة مشتركة على الأقل.

وفي بعض النتائج ، قد تتضمن المصطلحات الحساسة أو المسيئة مصطلحات مرتبطة بواحد أو أكثر من المواد الإباحية والعنف والدم والخداع. يتضمن المحتوى الحساس أو المسيء صورًا أو مقاطع فيديو أو بيانات مرتبطة بواحد أو أكثر من المواد الإباحية والعنف والدماء والخداع.

في بعض الحالات ، يتضمن تحديد مجموعة العرض التقديمي لنتائج البحث الآمن من بين مجموعة نتائج البحث المرشحة واحدًا أو أكثر من الإجراءات التالية:

في بعض الحالات ، يتم تقليل ترتيب نتيجة البحث في المجموعة المرشحة لنتائج البحث بناءً على

(1) الإشارة إلى أن استعلام البحث المستخدم للحصول على نتيجة البحث مصنف على أنه من المحتمل أن يكون مرتبطًا بفئة معينة من الأشخاص ، و
(2) الإشارة إلى تصنيف نتيجة البحث على الأرجح على أنها تتضمن محتوى حساسًا أو مسيئًا.

في بعض الحالات ، قد تتم تصفية نتيجة البحث في المجموعة المرشحة لنتائج البحث لإزالة نتيجة البحث من مجموعة العرض التقديمي لنتائج البحث بناءً على

(1) الإشارة إلى أن استعلام البحث المستخدم للحصول على نتيجة البحث مصنف على أنه من المحتمل أن يكون مرتبطًا بفئة معينة من الأشخاص بما في ذلك المصطلحات الحساسة أو العدوانية ، و
(2) الإشارة إلى تصنيف نتيجة البحث على الأرجح على أنها تتضمن محتوى حساسًا أو مسيئًا.

في بعض الحالات ، قد يتم تحديد نتيجة بحث في المجموعة المرشحة لنتائج البحث الآمنة لتضمينها في مجموعة العرض التقديمي لنتائج البحث دون تعديل ترتيب نتيجة البحث أو تصفية نتيجة البحث بناءً على الإشارة إلى أن استعلام البحث استخدم للحصول على نتيجة البحث ، يتم تصنيفها على أنها غير مرتبطة على الأرجح بفئة معينة من الأشخاص ومن المحتمل أن تتضمن مصطلحات غير حساسة وغير مسيئة.

في بعض الحالات ، يتضمن تحديد مجموعة العرض التقديمي لنتائج البحث من بين مجموعة نتائج البحث المرشحة واحدًا أو أكثر من الإجراءات التالية:

(1) في بعض الحالات ، قد يتم تحديد نتيجة بحث في مجموعة نتائج البحث المرشحة لتضمينها في مجموعة العرض التقديمي لنتائج البحث دون تعديل ترتيب نتيجة البحث أو تصفية نتيجة البحث بناءً على الإشارة إلى أن البحث يتم تصنيف الاستعلام المستخدم للحصول على نتيجة البحث على أنه من غير المحتمل أن يكون مرتبطًا بفئة معينة من الأشخاص ومن المحتمل أن يتضمن مصطلحات حساسة أو مسيئة.

(2) في بعض الحالات ، قد تتم تصفية نتيجة البحث في المجموعة المرشحة لنتائج البحث لإزالة نتيجة البحث من مجموعة العرض التقديمي لنتائج البحث بناءً على الإشارة إلى أن استعلام البحث المستخدم للحصول على نتيجة البحث مصنف على أنه محتمل ذات صلة بفئة معينة من الأشخاص ومن المحتمل تضمين مصطلحات حساسة أو مسيئة.

(3) في بعض الحالات ، قد تتضمن إجراءات الطريقة التي يتم تنفيذها بواسطة الكمبيوتر أيضًا إنشاء درجة ملاءمة لمستند يتوافق مع كل نتيجة بحث في مجموعة نتائج البحث المرشحة ، وتحديد ترتيب لكل نتيجة بحث في المجموعة المرشحة من نتائج البحث وتلقي بيانات جلسة المستخدم التي تتضمن سمة واحدة أو أكثر لجهاز المستخدم.

تشير درجة الملاءمة إلى مدى صلة المستند باستعلام البحث. يتضمن اختيار مجموعة العروض التقديمية لنتائج البحث من بين مجموعة نتائج البحث المرشحة أيضًا تعديل تصنيفات واحدة أو أكثر من نتائج البحث في المجموعة المرشحة لنتائج البحث بناءً على بيانات جلسة المستخدم التي تتضمن سمة واحدة أو أكثر لجهاز المستخدم .

في بعض الحالات ، قد يتضمن تحديد مجموعة العروض التقديمية لنتائج البحث من بين مجموعة نتائج البحث المرشحة ، لكل مستند مطابق لنتيجة بحث ، تعيين تسمية للمستند المستند إلى المستند على الأقل على الإشارة إلى أن نتيجة البحث تم تصنيفها على أنها تتضمن محتوى حساسًا أو مسيئًا ، وتحدد تصفية نتيجة البحث أو تعديل ترتيب نتيجة البحث بناءً على التسمية المعينة. تشير التسمية إلى الموضوع المتضمن في المستند.

يتم وصف براءة الاختراع حيث يمكن إجراء كل هذه التصفية أو الادراج في:

حماية المستخدمين من نتائج البحث غير الملائمة أو المسيئة
المخترعون: ماتياس هيلر ، مايكل شاير ، نيكولا تودوروفيتش ، روبن نيتكا ، توماس فيشباتشر ولورا دراجوي ؛
الوكيل: Google LLC
براءات الاختراع الأمريكية: 10،083،237
تم المنح: 25 سبتمبر 2018
تاريخ التقديم: 31 أغسطس 2015

الملخص

تم وصف نظام وطريقة لتوفير تجربة بحث يتم فيها حماية المستخدمين من التعرض لمحتوى مسيء أو حساس غير مناسب. قد يصنف نظام البحث استعلام البحث ونتائج بحث المرشح التي تم الحصول عليها استجابةً لاستعلام البحث. استنادًا إلى تصنيف استعلام البحث ونتائج البحث ، يمكن تعديل نتائج بحث المرشح لإنشاء مجموعة من نتائج البحث المقدمة للمستخدم بحيث لا تتضمن نتائج البحث المقدمة محتوى حساسًا أو مسيئًا غير مناسب.

بعض التعاريف بموجب براءة اختراع نتائج البحث الآمن

تحدد براءة الاختراع "المحتوى الحساس أو المسيء" بالنسبة لنا ، على أنه يشير ، على سبيل المثال لا الحصر ، إلى المواد الإباحية والصور الدموية والمحتوى العنيف.

يعرّف أيضًا "المحتوى الحساس أو المسيء" على أنه فئة فرعية من المحتوى الحساس أو المسيء ، وقد يتضمن محتوى مثل:

• محتوى تجنيد العصابات
• محتوى يحرض على العنف
• المحتوى الذي يسخر من مجموعة ديموغرافية معينة أو يحرض على الكراهية ضد مجموعة ديموغرافية معينة
• محتوى ساخر

"قد يشير أيضًا بشكل عام إلى أي محتوى غير قانوني أو مسيء أو مرفوض بشدة لفئة محمية من مستخدمي الإنترنت."

تخبرنا براءة الاختراع أيضًا أنها تهدف إلى حماية الباحثين الذين قد يكونون حساسين لبعض نتائج البحث:

قد تشمل هذه الفئة المحمية من المستخدمين أي مجموعة من الأشخاص لديهم سمة ديموغرافية واحدة مشتركة على الأقل والذين قد تكون الحماية من محتوى الإنترنت غير المناسب حساسًا أو مسيئًا مرغوبة.

كيف يتم التعامل مع المحتوى للمراهقين كفئة محمية

يبدأ وصف براءة اختراع نتائج البحث الآمن بمثال لنتائج البحث التي تستهدف المراهقين ردًا على استعلام مثل "لماذا ينضم المراهقون إلى المجموعات". يتلقى محرك البحث هذا الاستعلام ، ويحصل على مجموعة من نتائج البحث ، لإظهارها ردًا على هذا الاستعلام.

يستقبل محرك البحث أيضًا عدة إشارات تصنيف ، ويختار مجموعة من نتائج البحث من مجموعة نتائج بحث المرشح لتقديمها إلى الباحث الفرعي ، بناءً على إشارات التصنيف.

تم منح إحدى نتائج البحث بعنوان "توظيف المراهقين" درجة ملاءمة تبلغ 96 وتعيين تصنيف يشير إلى أن مستند نتيجة البحث المقابل لـ "تجنيد المراهقين" يتضمن محتوى يمكن تقديمه لجميع المستخدمين ، بما في ذلك مستخدم طفل ، وهو كذلك لا تتضمن محتوى حساسًا أو مسيئًا.

هناك نتيجة أخرى بعنوان "مجندو العصابات المراهقون" بدرجة ملاءمة تبلغ 87 وتم تعيين علامة "v" تشير إلى أن مستند نتيجة البحث المطابق لـ "مجندو عصابات المراهقين" من المحتمل أن يتضمن محتوى عنيفًا أو صورًا مزعجة.

بعض نتائج البحث الأخرى معنونة "أخبار: مجموعات المراهقين" و "مجموعات الأطفال" والتي لها درجات ذات صلة 79 و 34 ، على التوالي ، مع تسميات معينة تشير إلى أن نتائج البحث تتوافق مع "الأخبار: مجموعات المراهقين" و "المجموعات من الأطفال "ومن المحتمل أن تتضمن محتوى يمكن تقديمه لجميع المستخدمين ، بما في ذلك مستخدم طفل ، ولا تتضمن محتوى حساسًا أو مسيئًا.

بناءً على إشارات التصنيف المستخدمة ، قد تتم الموافقة على بعض النتائج ، وقد تتم إزالة بعضها ، وقد تتم إعادة تصنيف البعض الآخر قبل تقديمها إلى الباحث الطفل.

قد تتم إعادة ترتيب بعض النتائج لتقديمها في مرتبة أعلى في نتائج البحث ، مثل تلك المتعلقة بـ "الأخبار: مجموعات المراهقين".

قد يتم إعادة تصنيف بعض النتائج إلى مرتبة أقل ، مثل تلك المتعلقة بـ "مجندو العصابات المراهقون" التي من المحتمل أن تتضمن محتوى عنيفًا مرتبطًا بالمراهقين.

تخبرنا براءة اختراع نتائج البحث الآمن أن محور هذا النهج هو:

يتم بعد ذلك إخراج المجموعة المحددة من نتائج البحث كمجموعة عرض تقديمي لنتائج البحث على جهاز المستخدم بحيث يمكن للمستخدم الطفل الاستمتاع بتجربة بحث آمنة دون التعرض لمحتوى حساس أو مسيء غير مناسب.

المجموعات المحمية الأخرى وعوامل التصفية الأخرى

توفر براءة اختراع نتائج البحث الآمنة أمثلة أخرى ، لمجموعات أخرى ، مثل النتائج حول

(1) "محاكاة ساخرة لمحامي براءات الاختراع" بدرجة صلة تبلغ 96 وتسمية تشير إلى أن المستند المرتبط بنتيجة البحث بعنوان "محامي براءات اختراع ساخر" يتضمن على الأرجح محتوى حساسًا غير لائق أو مسيئًا مثل المحتوى المخادع المرتبط بفئة محمية من الأشخاص (على سبيل المثال ، محامو براءات الاختراع).

(2) "مقالب لممارسي الملكية الفكرية" بدرجة صلة 92 وعلامة تشير إلى أن المستند المرتبط بنتيجة البحث المعنونة "مزاح لممارسي الملكية الفكرية" يتضمن على الأرجح محتوى حساسًا أو مسيئًا غير لائق مثل النكات المهينة الموجهة إلى فئة محمية من الناس. من العامة؛

(3) "لحظات مضحكة لمحامي البراءات" مع درجة ملاءمة تبلغ 89 وعلامة تشير إلى أن المستند المرتبط بنتيجة البحث بعنوان "لحظات مضحكة لمحامي براءات الاختراع" لا يتضمن على الأرجح أي محتوى حساس أو مسيء ؛ و

(4) "فكاهة محامي" بدرجة ملاءمة تبلغ 74 وتسمية تشير إلى أن المستند المرتبط بنتيجة البحث بعنوان "فكاهة محامي" لا يتضمن على الأرجح أي محتوى حساس أو مسيء.

تخبرنا براءة الاختراع أي محتوى من هذه الاستعلامات قد تمت إزالته أو إعادة تنظيمه.

تتضمن براءة الاختراع أيضًا أمثلة أخرى تغطي أشياء مثل النكات السياسية والمذكرات السياسية والفضائح السياسية.

كما يوفر مزيدًا من التفاصيل حول كيفية تحديد محرك البحث للمحتوى الذي قد يرغب في تصفيته.

أكبر الوجبات الجاهزة من براءة اختراع نتائج البحث الآمن

لم أشاهد Google يقول أي شيء حول إزالة نتائج البحث أو إعادة تصنيفها بناءً على تقديم نتائج بحث آمنة تتضمن مجموعات محمية من قبل. أتذكر على الرغم من وجود قضية قانونية ضد Google حيث قررت محكمة فيدرالية مرة أخرى في عام 2003 أن PageRank كانت محمية للكلام بموجب التعديل الأول.