מאיפה בא השם ומי טבע אותו
את המונח טבע החוקר ג'תן סדובסקי במאמר שפרסם ב-6 באוגוסט 2018 במגזין Real Life. השם נשען על גריגורי פוטיומקין, שר רוסי שעל פי המסורת הקים כפרי-דמה כדי להסתיר מן הקיסרית יקטרינה השנייה את מצב הדברים האמיתי; דימוי קרוב, של מכונה שאדם מסתתר בתוכה, מתואר באתר הזה בערך התורכי המכני. סדובסקי כתב שטכנולוגיה פוטיומקינית "בונה חזית שלא רק מסתירה את מה שקורה, אלא מטעה לקוחות פוטנציאליים ואת הציבור הרחב כאחד". באותו מאמר מנה שירותים שהוצגו כמופעלים בתוכנה מתוחכמת ובפועל נשענו על בני-אדם: העוזר האישי M של פייסבוק, שירות תמלול ההודעות הקוליות SpinVox, שהואשם בכך שהתמלול נעשה בידי אדם, מכוניות שהוצגו כאוטונומיות ונהגו מרחוק, ואפליקציות שבהן קראו עובדים דואר אלקטרוני פרטי של משתמשים.
מה המונח מוסיף על "עבודת רפאים"
התופעה מתוארת באתר הזה גם בערך עבודת רפאים, ולשני המונחים חפיפה גדולה: גם שם נדונה ההסתרה מן הלקוח ומן המשקיע, ולא רק תנאי ההעסקה. ההבדל אינו בעובדות אלא במושא. עבודת רפאים הוא שם לכוח עבודה — מי מבצע את המשימות ובאילו תנאים — ובא מתוך מחקר עבודה. בינה מלאכותית פוטיומקינית הוא שם לחזית עצמה: להצגה שנבנתה כדי שהמוצר ייראה אוטומטי, בין שמאחוריה עובדים מוסתרים ובין שמדובר בהגזמה בתיאור היכולות.
מתי ההצגה מגיעה לבית משפט: פרשת nate
ב-9 באפריל 2025 הודיעה פרקליטות מחוז דרום ניו-יורק על הגשת כתב אישום נגד אלברט סניגר, מייסדה ומנכ"לה לשעבר של חברת nate. לפי כתב האישום הציג סניגר לפני משקיעים אפליקציית קניות שמשלימה רכישות באתרי מסחר, ומסר בחומרי גיוס ההון שהיא "מסוגלת לבצע עסקאות מקוונות בלי התערבות אנושית". בפועל, נטען, "שיעור האוטומציה של האפליקציה היה אפס אחוזים למעשה", ומאות קבלנים — "עוזרי רכישה" — הועסקו במוקד טלפוני בפיליפינים והשלימו את ההזמנות ידנית. עוד נטען כי סניגר הורה לעובדים לשמור את נתוני האוטומציה בסוד, הגביל את הגישה ללוח הבקרה שהציג אותם והסביר את הסודיות בכך שמדובר ב"סוד מסחרי", וכי גייס יותר מ-40 מיליון דולר ממשקיעים. הוא הואשם בהונאת ניירות ערך ובהונאת תקשורת, שכל אחת מהן נושאת עונש מרבי של 20 שנות מאסר. רשות ניירות הערך האמריקאית הגישה במקביל תביעה אזרחית באותו עניין. אלה טענות שבכתב אישום ובכתב תביעה, ולא הכרעה שיפוטית.
הקו הדק: מתי שילוב אדם הוא לגיטימי
לא כל שילוב של בני-אדם במערכת שנראית אוטומטית הוא הצגה. בחקר אינטראקציית אדם-מכונה מקובלת שיטה שבה משתתף מתנהל מול מכונה שנראית לו אוטונומית ואדם נסתר מפעיל אותה, כדי לבחון תגובות לפני שהאוטונומיה קיימת; באתר הזה היא מתוארת בערך אשף עוץ. שם אי-הידיעה של המשתתף היא מהות הניסוי, וכאן היא מה שנמכר לו. הקו שסימנו הרשויות בארצות הברית בפרשת nate אינו עצם ההסתייעות בעובדים, אלא הפער בין מה שנמסר למשקיעים לבין מה שהתרחש. סדובסקי מותח קו רחב יותר: לטענתו התמונה הציבורית של יכולות הבינה המלאכותית מוטה כלפי מעלה גם בלי הונאה, מפני שכוח העבודה האנושי שמאחורי המערכות אינו מופיע בתיאור המוצר.
מה זה אומר לקורא ידיעה על מוצר "אוטומטי"
שתי שאלות מעשיות עולות מכאן. הראשונה היא מי בפועל מבצע את הפעולה שמתוארת כאוטומטית — שאלה שלרוב אינה מופיעה בתיאור השירות. השנייה היא מה בכלל נמדד: "שיעור אוטומציה" הוא מספר שחברה יכולה לפרסם או שלא, ובפרשת nate נטען שהוא הוסתר גם מרוב עובדי החברה עצמה. היקף התופעה נותר שאלה פתוחה — אין ספירה מוסכמת של כמה שירותים מוצגים כאוטומטיים יותר משהם.