החידושים אכן מרשימים אך יש טוענים שכבר עכשיו הבינה המלאכותית צוברת יותר מידי כוח. שורה של מדענים וחוקרים מהמובילים בעולם חתמו (שוב!) על מכתב שבו טענו שהבינה המלאכותית מעמידה את האנושות כולה בסכנה קיומית ויש להגביל את AI בדיוק כפי שנעשה בהקשר של נשק גרעיני.

אחת ההשפעות המשמעותיות של צבירות הכוח של הבינה המלאכותית היא בתחום שוק העבודה. כבר עכשיו חברות מצליחות במקביל להרוויח יותר ולהעסיק פחות עובדים בזכות הטכנולוגיה של הבינה המלאכותית שמייעלת את תהליכי העבודה ומייתרת עובדים בשר ודם. לאחרונה פורסם כי על פי בנק ישראל, בעקבות כניסתה של הבינה המלאכותית, שליש מהמקצועות לא יושפעו כלל, שליש יושפעו לחיוב ושליש יוחלפו לחלוטין.

החידושים של הבינה המלאכותית מציבים גם סכנה בתחום החדירה לפרטיות, כפי שהציע דרור גלוברמן בפודקסט "אחד ביום" : תארו תרחיש שבו חברה מחליטה להציב מצלמה בכניסה למקום העבודה שתדווח על מצבם הרגשי של העובדים בהתבסס על הבעות הפנים שלהם. נניח שדני נראה עצבני,  טרוד וחסר מנוחה כבר תקופה.  המנהל יכול לזמן אותו לשיחה שתהפוך לשיחת שימוע לקראת פיטורים, כי הוא אינו מעוניין בעובדים חסרי מוטיבציה.