מה זה שיטור חזוי, ואיך הוא עובד
שיטור חזוי הוא שימוש באלגוריתמים המנתחים נתוני-פשיעה היסטוריים — מיקום, זמן וסוג-העבירה — כדי לחזות היכן ומתי צפויה פשיעה, ולכוון לפי כך את סיורי המשטרה. הכלי הנפוץ ביותר בארצות-הברית הוא PredPol, שפותח ב-2010 בשיתוף מחלקת-המשטרה של לוס אנג'לס (LAPD) והפרופסור ג'ף ברנטינגהאם מ-UCLA, ומבוסס על אלגוריתם שנועד במקור לחזות רעידות-משנה של רעידות-אדמה. החברה שמפעילה אותו שינתה את שמה מ-PredPol ל-Geolitica, אך שם הכלי עצמו נשאר PredPol. משטרות בקליפורניה, וושינגטון, דרום-קרוליינה ומדינות נוספות אימצו את השיטה.
פליינפילד וסנטה קרוז: שתי דוגמאות מתועדות
באוקטובר 2023 פרסם אתר-החדשות The Markup תחקיר שבדק את התחזיות שהפיק אלגוריתם ה-PredPol של Geolitica עבור מחלקת-המשטרה של פליינפילד שבניו-ג'רזי, ומצא שיעור-דיוק של פחות מ-0.5 אחוזים. בסנטה קרוז שבקליפורניה, שם הופעל PredPol לראשונה, החליטה מועצת-העיר בסוף יוני 2020 — בעקבות רצח ג'ורג' פלויד וגל של קריאות לשקיפות במשטרה — לאסור כליל על שימוש בשיטור חזוי, והפכה לעיר האמריקאית הראשונה שעשתה זאת. מחלקת-המשטרה של לוס אנג'לס, מהלקוחות הוותיקים של הכלי, הפסיקה את השימוש בו באפריל 2020 בלי יכולת למדוד את יעילותו בצמצום-פשיעה; דו"ח של Brennan Center for Justice ציין שגם שיקגו הפסיקה תוכנית דומה שנחשבה בעבר מוצלחת, לאחר שהתבררה כלא-יעילה.
טענות ההטיה: מחקר Lum ו-Isaac
ב-2016 פרסמו החוקרים קריסטיאן לאם ווויליאם אייזק בכתב-העת Significance מחקר שהפעיל את אלגוריתם PredPol על נתוני-פשיעות-סמים מאוקלנד שבקליפורניה, ומצא שהמודל הפנה סיורי-משטרה באופן לא-פרופורציונלי לשכונות עם ריכוז גבוה יותר של תושבים שחורים ותושבים בעלי-הכנסה נמוכה — בעוד שנתוני-סקר בריאות-הציבור הראו שהשימוש בסמים מפוזר בעיר בצורה שוויונית יותר. לאם ואייזק ייחסו את הפער להטיה שכבר קיימת בנתוני-המעצרים עצמם, לא באלגוריתם כשלעצמו: משטרה שמפקחת יותר על שכונה מסוימת נוטה לעצור בה יותר, מה שמזין בחזרה את המודל בעוד נתונים שמצדיקים פיקוח נוסף על אותה שכונה — מעגל-משוב שחוקרי-הוגנות-אלגוריתמית מכנים feedback loop.
השוואה ל-COMPAS ולניקוד-סיכון ציבורי אחר
שיטור חזוי שונה מ-COMPAS בנקודה מהותית: COMPAS מדרג אדם ספציפי שכבר נעצר או הורשע, לצורך החלטה שיפוטית על מעצר או ענישה, ואילו שיטור חזוי מדרג מקום וזמן — לא אדם — כדי לכוון משאבי-סיור לפני שהתרחשה עבירה כלשהי. שתי השיטות ספגו ביקורת דומה על הטיה גזעית שמקורה בנתוני-עבר, אך פועלות בשלבים שונים לגמרי של מערכת-המשפט הפלילי. מאותה משפחה גם ניקוד-סיכון בהונאת-קצבאות (welfare-fraud-risk-scoring) — כלי-ניקוד אלגוריתמי אחר בשירות רשות ציבורית, אלא שהוא מדרג בקשה שהגיש אדם מסוים, ולא מקום וזמן.
מגבלות רגולטוריות באיחוד האירופי
באיחוד האירופי אוסר סעיף 5(1)(ד) לחוק הבינה-המלאכותית, שהאיסורים שבו חלים מ-2 בפברואר 2025, שימוש במערכות-AI להערכה או לחיזוי של הסבירות שאדם יבצע עבירה פלילית, כשההערכה נשענת אך ורק על פרופיילינג של אותו אדם או על הערכת תכונות-אישיותו ומאפייניו. האיסור אינו חל על מערכות שתומכות בהערכה אנושית שכבר נשענת על עובדות אובייקטיביות וניתנות-לאימות, הקשורות ישירות לפעילות פלילית. סעיפי-הענישה של החוק, שחלים מ-2 באוגוסט 2025, קובעים על הפרת האיסורים קנס מנהלי של עד 35 מיליון יורו או עד 7 אחוזים מהמחזור השנתי העולמי של החברה — לפי הגבוה מביניהם.