ארגון Human Rights Watch: סין משתמשת בנתונים גדולים כדי למקד לקבוצות מיעוטים

Jos¿ª Vitor Barroso Vitoi, Brazil, reading article 29 of the Universal Declaration of Human Rights

Jos¿ª Vitor Barroso Vitoi, Brazil, reading article 29 of the Universal Declaration of Human Rights
Anonim

הממשלה הסינית משתמשת באלגוריתמים שיטור חזוי כדי למקד מיעוטים אתניים במחוז שינג 'יאנג, על פי דו"ח של ארגון Human Rights Watch שפורסם אתמול.

המחוז בצפון מערב סין הוא ביתם של 11 מיליון אויגים, קבוצה אתנית מוסלמית טורקית אשר הופללה על ידי הממשלה הסינית בשנים האחרונות.

כעת, הרשויות דיווחו על שימוש בנתונים גדולים כדי למקד באופן שיטתי כל מי שנחשד באי-נאמנות פוליטית. הדחיפה היא חלק ממסע "Strike Hard", שמטרתו לחסל את פעילות הטרור הפוטנציאלית בסין. בפועל, זה הוביל לשיטור לא פרופורציונלי של האויגים, אומר ארגון Human Rights Watch.

מערכת שיטור חזוי, המכונה IJOP - משולבת מבצע פלטפורמה משותפת - מוזן נתונים ממגוון רחב של כלי מעקב שונים. אלה כוללים מצלמות טלוויזיה במעגל סגור, לוחית רישוי ומספרים של תעודות זהות של אזרחים המתקבלים ממחסומים ביטחוניים, וכן מידע אישי, כולל בריאות, בנקאות ורשומות משפטיות.

בנוסף למעקב אוטומטי, פקידי ממשלה עורכים ביקורי בית כדי לאסוף נתונים על האוכלוסייה. איש עסקים סיני שיתף טופס שמילא לרשומות של IJOP עם ארגון Human Rights Watch - בין השאר שאל השאלון אם איש העסקים הוא אויגור, כמה פעמים הוא מתפלל, ואיפה הוא הולך לשירותים דתיים.

כל אלה קלט נתונים משמשים IJOP כדי לסמן אנשים כמו איומים פוטנציאליים. כאשר מישהו מסומן, המשטרה לפתוח חקירה נוספת ולקחת אותם למעצר אם הם נחשבים חשודים.

"לראשונה אנו יכולים להוכיח כי השימוש של הממשלה הסינית בנתונים גדולים ובשיטור חזוי לא רק פוגע בזכויות הפרטיות, אלא גם מאפשר לפקידים לעצור אנשים באופן שרירותי", אמרה חוקר מאוניברסיטת Human Rights Watch מאיה וואנג.

על פי הדו"ח, חלק מהאנשים שסומנו נשלחו למרכזי חינוך פוליטי, שם הם מעוכבים ללא הגבלת זמן.

"מאז אפריל 2016, מעריכים ארגון Human Rights Watch, רשויות שינג-ג'יאנג שלחו עשרות אלפי אויגים ומיעוטים אתניים אחרים ל"מרכזי חינוך פוליטי", נכתב בדו"ח. IJOP מעניק אמינות למעצרים אלה על ידי החלת פורנוגרפיה אובייקטיבית, אלגוריתמית על המעצרים המפלים.

כדי להחמיר את המצב, את פעולתו הפנימית של IJOP הם אפופים סוד.

"אנשים בשינג'יאנג לא יכולים להתנגד או לאתגר את הביקורת ההולכת וגוברת של חיי היומיום שלהם, משום שרובם אפילו לא יודעים על תוכנית" קופסה שחורה "זו או איך זה עובד", אמר וואנג.

זו אותה בעיה שמטרידה את מערכות הלמידה המתוחכמות ביותר: תהליכי ההחלטה שהם מעסיקים אטומים אפילו ליוצרי האלגוריתם.

השימוש של סין ב IJOP שווה לשים לב כי שיטור חזוי צפוי להתרבות עם שיפור הטכנולוגיה. כפי שציין ג'ון כריסטיאן המתאר, מערכות שיטור חזוי כבר מנוצל בכמה מקומות בארצות הברית. לוס אנג 'לס משטרת Deparment משתמש בתוכנה צופה היכן ומתי פשעים צפויים להתרחש כך קצינים יכול הראש אותם.

בצד השני של מערכת המשפט הפלילי, אולמות משפט משתמשים לפעמים באלגוריתמים המעניקים ציונים אפשריים ל "הערכת סיכונים" על מנת לסייע לשופטים לקבל החלטות מושכלות יותר. למרבה הצער, אלו אלגוריתמים לכאורה משוחדת למעשה להפלות על בסיס גזע.

פשיטה של ​​סין לתוך שיטור חזוי מדגיש את החשיבות של יישום אלגוריתם אחראי כמו הלמידה מכונה ממשיך להיכנס למגזר הציבורי. אולי הגיע הזמן שממשלות בעלות ידע טכנולוגי יאמצו מנטרה חדשה: לפעמים הבינה המלאכותית יוצרת יותר בעיות מכפי שהיא פותרת.