COMPAS (ראשי-תיבות של Correctional Offender Management Profiling for Alternative Sanctions) הוא תוכנת-הערכת-סיכון שפיתחה חברת Northpointe ב-1998 (מוזגה בינואר 2017 לחברת Equivant), ושימשה בתי-משפט ברחבי ארצות-הברית להעריך את הסבירות שנאשם יבצע עבירה נוספת. הכלי מבוסס על שאלון בן 137 שאלות על היסטוריה-משפחתית, תעסוקה וקשרים חברתיים — בלי שאלה ישירה על גזע — ומפיק ציון-סיכון שמשפיע על החלטות כמו מעצר-לפני-משפט או אורך-עונש.
ב-2016 פרסמו ג'וליה אנגווין, ג'ף לארסון, סוריה מאטו ולורן קירכנר ב-ProPublica חקירה שניתחה למעלה מ-7,000 ציוני-סיכון ממחוז בראוארד שבפלורידה. הממצא המרכזי: בקרב מי שבפועל לא ביצע עבירה נוספת, נאשמים שחורים תויגו בטעות כ'סיכון-גבוה' בשיעור של כמעט כפול מנאשמים לבנים (44.9% מול 23.5%) — ואילו בקרב מי שכן ביצע עבירה נוספת, נאשמים לבנים תויגו בטעות כ'סיכון-נמוך' בשיעור גבוה יותר מנאשמים שחורים (47.7% מול 28.0%).
נורת'פוינט הגיבה שהכלי מדויק באותה מידה עבור נאשמים משני הגזעים במונחי שיעור-הצלחת-החיזוי הכולל — וגם הטענה הזו הייתה נכונה מבחינה סטטיסטית: שני הצדדים מדדו שתי הגדרות שונות, ולעיתים סותרות, של 'הוגנות', לא סתרו זה-את-זה עובדתית. מחקר-המשך מ-2018, שערכו ג'וליה דרסל והאני פריד ופורסם בכתב-העת Science Advances, מצא ש-COMPAS מדויק יותר מתחזיות של אנשים בודדים חסרי-הכשרה מקצועית, אך פחות מדויק מתחזיות של קבוצות של אותם אנשים חסרי-הכשרה משפטית-פלילית, כשהם מתייעצים יחד ונותנים הערכה משותפת.
מקרה COMPAS הפך לאחת הדוגמאות המצוטטות ביותר בספרות ההטיה האלגוריתמית — לא כי מישהו תכנת גזענות במפורש, אלא כי הכלי 'למד' דפוסים מנתוני-עבר שכבר שיקפו אי-שוויון קיים במערכת אכיפת-החוק. הפרשה גם חשפה מתח מבני רחב-יותר: כלים כאלה נמכרו לרשויות ציבוריות כנוסחה קניינית-סגורה, כך שלא הנאשם ולא בית-המשפט יכלו לבדוק ישירות איך הציון חושב במקרה הספציפי שלהם.
ההיבט המשפטי של הפרשה הגיע לבית-המשפט העליון של ויסקונסין, בפרשת State v. Loomis, שדנה בעונשו של אריק לומיס לאחר שהורשע בבריחה מקצין-תנועה ובנהיגה ברכב בלי הסכמת הבעלים. בית-המשפט קבע ב-13 ביולי 2016 שמותר לבתי-משפט להיעזר בציון-COMPAS בגזירת-עונש, אך רק אם הם מיודעים בחמש אזהרות מפורשות: שהנוסחה קניינית וסגורה ואינה חושפת איך משוקללים הגורמים בה; שהציון מזהה קבוצות של עברייני-סיכון-גבוה ולא נאשם ספציפי; שמחקרים העלו חשש להטיה בסיווג נאשמים ממיעוטים; שהציון משווה את הנאשם למדגם לאומי בעוד שלא בוצע מחקר-אימות נפרד לאוכלוסיית ויסקונסין, וכלי-הערכה כאלה חייבים ניטור וכיול-מחדש שוטפים כדי להישאר מדויקים מול אוכלוסיות משתנות; וכי COMPAS פותח מלכתחילה לשימוש מחלקת-שירות-המבחן והכליאה בהחלטות על טיפול, פיקוח ושחרור-על-תנאי — לא לגזירת-עונש עצמה. פסק-הדין גם קבע שהציון לא יכול לקבוע את חומרת-העונש, האם להטיל מאסר, או לשמש שיקול מכריע בהחלטות פיקוח.