תוכנית מחשב נפוצה מנבאת את ההיחלשות כמו בני אדם

בדיוק כמו שף מקצועי או מנתח לב, אלגוריתם למידה של מכונה הוא רק טוב כמו האימון שהוא מקבל. וכמו אלגוריתמים יותר ויותר לקחת את שלטונו ולקבל החלטות עבור בני אדם, אנו מגלים כי רבים מהם לא קיבלו את החינוך הטוב ביותר, כפי שהם מחקים המין האנושי ועל הטיות מבוססות מגדר ואפילו ליצור בעיות חדשות.

מסיבות אלה, זה במיוחד לגבי מדינות מרובות, כולל קליפורניה, ניו יורק, ויסקונסין, להשתמש באלגוריתמים לחזות אילו אנשים יבצעו פשעים שוב לאחר שהם נכלאו. גרוע מכך, זה אפילו לא נראה לעבוד.

במאמר שפורסם ביום רביעי בכתב העת התקדמות המדע, זוג מדעני מחשבים במכללה של Dartmouth מצאו שתוכנית מחשב נפוצה המשמשת לחיזוי הפשיעה אינה מדויקת יותר מאשר אזרחים לא מאומנים לחלוטין. תוכנית זו, הנקראת פרופיל תיקוני עבריין לתיקון סנקציות אלטרנטיביות, מנתחת 137 גורמים שונים כדי לקבוע עד כמה סביר שאדם יבצע פשע אחר לאחר השחרור. COMPAS בוחן גורמים כמו שימוש בחומרים, בידוד חברתי, ועוד אלמנטים אחרים שקרימינולוגים יכולים להעלות על דעתם כי הם יכולים להוביל לפשיעה, דירוג אנשים כסיכון גבוה, בינוני או נמוך.

אין ספק, הערכת סיכונים נשמע נהדר. מדוע אין נתונים נוספים כדי לסייע לבתי המשפט לקבוע מי הוא סיכון גדול יותר? אבל מה שמדעני המחשבים של דרטמות ', ג'וליה סרסל והאני פריד, גילו כי אנשים לא מאומנים שפטרו נכון את הסיכון לפסיכיאטריה בדיוק באותה מידה כמו ה- COMPAS, מה שמרמז על כך שהכוח של האלגוריתם אינו קיים.

בניסוי אחד שכלל רק חלק קטן מהמידע המשמש את COMPAS (שבעה גורמים במקום 137, ולא כולל גזע), קבוצת מתנדבים אנושיים באינטרנט, ככל הנראה ללא הכשרה בהערכת סיכונים פלילית, העריכו את דיווחי המקרה. הם העריכו נכונה את מידת ההישנות של 67%, בהשוואה לדיוק של 65%.

קח רגע כדי לתת לזה לשקוע פנימה. אנשים לא מאומנים באינטרנט היו קצת יותר טוב לחזות אם אדם יחזור לכלא מאשר הכלי שעיצב, פשוטו כמשמעו, כדי לחזות אם אדם יחזור לכלא. וזה נהיה יותר גרוע. לאחר שתוסיפו את הגזע של הנאשם, השיעורים החיוביים השגויות של המתנדבים ושלילי-שווא היו בתוך כמה אחוזים בלבד של ה- COMPAS. אז לא רק COMPAS לא כל כך גדול לחזות reidivism, זה בדיוק כמו נוטה הטיה גזעית כמו בני אדם. כל כך הרבה ההיגיון קר של מחשבים.

החוקרים ערכו אז מודל ליניארי שתאם את שיעור החיזוי של COMPAS עם שני גורמים בלבד: גיל ומספר הרשעות קודמות. רק כדי להיות ברור, זה חיזוי יהיה גם לא הוגן, אבל זה מוכיח עד כמה COMPAS פגום הוא.

ובעוד מחקר זה הוא חדש, את המפרסמים הגדולים הוא תומך הם לא. בחקירה ב -2016, ProPublica עיתונאים מצאו כי לא רק COMPAS לא אמין, זה בעצם משוחד באופן שיטתי נגד אפריקאים אמריקאים, בעקביות דירוג אנשים שחורים כמו סיכון גבוה יותר מאשר לבנים שביצעו פשעים חמורים יותר. יש לקוות, מחקר חדש זה יעזור לסלול את הדרך עבור תהליכי הערכת סיכונים צודקים במערכת המשפט הפלילי.

העובדה כי COMPAS הוא חסר תועלת במקרה הטוב מוטה עמוק במקרה הגרוע ביותר, עולה כי הערכות מבוססות מחשב יכול להעמיק את העוולות כי מערכת המשפט אמור לטפל.מכיוון שניתן ליישם את ציוני הערכת הסיכון בכל שלב של הליך הצדק הפלילי, כולל בעת קביעת הקשר של אדם, קביעת אם ניתן להם שחרור, ובכמה מדינות, אפילו בקביעת עונשו של אדם, מחקר זה מצביע על צורך עז לבחון מחדש את השימוש ב- COMPAS ובתוכניות אחרות.