מאז 2023 תועדו במדינות רבות שימושים בתוכן שנוצר בבינה מלאכותית במסגרת תעמולת בחירות. לפי התיעוד הקיים אין זו תופעה של מחנה פוליטי אחד: השימוש נעשה בידי מטות משני צידי המפה הפוליטית, ולעיתים בידי כמה מתמודדים באותה מערכת בחירות עצמה.
סוגי השימוש חוזרים על עצמם ממדינה למדינה. הנפוץ שבהם הוא תמונות בדויות שמציגות מתמודד במצב שלא התרחש, או בחברת קבוצות אוכלוסייה שתמיכתן מבוקשת. שימוש שני הוא סינתזה של קול — הקלטות שנשמעות כקולו של פוליטיקאי ומופצות כאילו נאמרו בפועל, ובכללן קולותיהם של מנהיגים שנפטרו שנים קודם לכן. תועדו גם סרטונים מזויפים שמציגים דמויות מן האופוזיציה במצבים מביכים, וכן שיחות טלפון מוקלטות בקול מסונתז שנועדו להניא בוחרים מלהגיע לקלפי. שימוש נוסף, שאינו מטעה כשלעצמו, הוא תרגום נאומים בזמן אמת לשפות נוספות כדי להרחיב את קהל היעד.
מידת ההשפעה בפועל על תוצאות בחירות שנויה במחלוקת בין חוקרים. התיעוד הקיים מתאר את השימוש עצמו ואת היקף התפוצה, ואין בו הוכחה להשפעה מדידה על התנהגות מצביעים.
התגובה הרגולטורית מתגבשת בהדרגה ומשתנה ממדינה למדינה. ועדת הבחירות של הפיליפינים חייבה מועמדים לגלות שימוש בבינה מלאכותית בחומרי תעמולה ואסרה שימוש בטכנולוגיה להפצת מידע כוזב, החל בבחירות 2025. במדינת אורגון שבארצות הברית נדרש גילוי כזה בפרסומי תעמולה, ובמדינת קליפורניה נאסר שימוש בזיופים עמוקים כדי להכפיש מתמודדים בששים הימים שקודמים לבחירות; מדינות נוספות חוקקו הסדרים הכוללים סנקציות אזרחיות ופליליות. ההסדרים האלה נעים בין חובת גילוי לבין איסור ממוקד בפרק זמן מוגדר לפני יום הבחירות, ולא איסור גורף על עצם השימוש בטכנולוגיה.
גם הפלטפורמות עצמן פעלו. מידג'רני חסמה יצירת תמונות של מועמדים בבחירות 2024 בארצות הברית, ו-OpenAI הוסיפה סימני זיהוי דיגיטליים לתמונות שנוצרו במערכותיה וכן מסווגים שנועדו לזהות תוכן כזה. בישראל פעלה כבר ב-2019 יוזמה משותפת של איגוד האינטרנט הישראלי, הקליניקה למשפט וטכנולוגיה באוניברסיטת חיפה והמכון הישראלי לדמוקרטיה, שקראה לציבור לדווח על חשבונות מזויפים, בוטים ותעמולה שאינה מסומנת — עוד לפני שכלי הבינה המלאכותית היוצרת היו זמינים לכל.