Et schéngt, datt bal all Dag eng grouss Technologiefirma eng nei verëffentlecht AI-ugedriwwen digital Assistent. Muse vum Meta, Gemini vu Google, Punkten vun OpenAI. Vun der Zäit dësen Artikel publizéiert, en neien aus [insert tech company here] wäert wahrscheinlech eng Pressematdeelung hunn, déi seng Fäegkeet huet fir Är Aarbecht a Liewen ze managen – d’Saachen vun Ärem Teller ze huelen, Är Prozesser ze automatiséieren, Är tedious Aufgaben ze beschleunegen. Et kléngt hëllefräich an, fir d’Bar ze senken, harmlos.
Awer e puer Fuerscher soen datt dëst den Ufank ass e verréide Wee fir Mënschheet, eent wou bots huelt ëmmer méi vun eisem Teller, bis alles wat iwwreg ass en eidele Behälter ass, a mir mënschlech Benotzer ginn näischt méi wéi ondenklech “Genehmer”.
Et ass net nëmmen eng Bedrohung fir Aarbechtsplazen. Si warnen datt eis Fäegkeeten a Wëssen erlaben ze verschlechteren, an eis kritesch Denken un AI ofginn, eng existenziell Gefor fir d’Mënschheet duerstellt.
Ee Begrëff fir dëse Wee ass “graduell Entmuechtung” – e Szenario wou AI verdrängt d’mënschlech Aarbecht an der Wirtschaft, ersetzt d’mënschlech Entscheedung an alle wichtege gesellschaftleche Bedenken, erodéiert d’mënschlech Kreativitéit an degradéiert d’mënschlech Erkenntnis laanscht de Wee.
An och wann d’Wuert “graduell” am Numm ass, heescht dat net datt de Problem eppes ass fir sech wäit an Zukunft ze suergen, laut Experten.
“Ech setzen graduell Entmuechtung ganz uewen op menger Lëscht,” sot den Jay Chooi, de Grënner a CEO vu Robocurve, eng Firma déi AI-gedriwwen Robotik Fäegkeeten verfollegt a moosst.
Chooi mengt datt graduell Entmuechtung grad esou ass beonrouegend wéi d’Drohung vun manipuléierte Pandemien a méi destruktiv Cyberattackendéi duerch kapabel AI beschleunegt ka ginn.
“Et ass e Problem vun der Zivilisatiounsskala,” sot de Chooi vu gradueller Entmuechtung. “Vill Leit fille sech ganz mächteg, well et vill Effort an eng ganz gesellschaftlech Approche erfuerdert fir et ze léisen.”
Wat ass “graduell Entmuechtung” a wéi konnt AI et verursaachen?
De Begrëff “graduell Entmuechtung” staamt aus engem Pabeier dat fréi 2025 publizéiert gouf.
Am Häerz vum graduellen Entmuechtungsszenario ass d’AI Technologie weider a Fäegkeeten weiderzekommen, sou wéi et séier zënter dem Start vum ChatGPT am Joer 2022 ass.
AI Modeller kënne geschwënn besser bei bal all kognitiven Aufgaben sinn wéi Mënschen – Grenz mathematesch Probleemer léisen, haart Wëssenschaft maachen, codéieren, schreiwen a Konscht a Musek kreéieren, fir e puer vun de Beräicher ze nennen wou AI ëmmer méi excelléiert. Zur selwechter Zäit kënnen d’Fortschrëtter an der Robotik dozou féieren datt AI-ugedriwwen Roboter besser Leeschtunge wéi Mënschen a kierperlecher Aarbecht wéi Këschte packen, Haiser bauen, Autoen bauen, Wandmalereien molen, selten Mineralstoffer ausbauen, a souguer IKEA Miwwelen bauen.
Mir denken gär datt an enger idealer Welt de beschte Bewerber allgemeng d’Aarbecht kritt, a si gi bezuelt op Basis vun der Nofro fir hir Fäegkeeten. Awer stellt Iech vir wann e Mënsch ass ni déi bescht Persoun fir d’Aarbecht. Dat ass eng Welt, datt e puer AI prognosticators an Whistleblowers erwaarden.
Et ass eng Welt wou en AI Agent oder AI-aktivéierten Roboter besser ass bei all Aufgab an Ënnertask déi et brauch fir meng Aarbecht an Är Aarbecht ze maachen. Si réckelen méi séier wéi eis, denken méi déif, hu méi Gedold a Konditioun. Si äntweren méi häerzlech op Telefonen, maache méi grëndlech Recherchen, a méi behendig mat enger Skalpell oder eng Nageldatei. Plus, si brauchen ni ze schlofen oder krank Deeg ze huelen, si weisen ni Hunger oder Stëmmung op, a si menacéieren ni fir eng besser Aarbecht ze verloossen.
Fir eng graduell Entmuechtung méi kloer ze bilden, hei ass e Szenario: Loosst eis soen datt Dir Hammer Co. leeft, eng Firma déi Hammers fabrizéiert. Dir hutt Linn Aarbechter déi de Stol Käpp an hëlzent geréiert Form an dann fit hinnen zesummen, a Manager déi d’Fabréck Lafen gutt halen. Dir hutt Leit déi Är Versuergungskette an Teams behalen fir Marketing, Verkaf, Comptabilitéit an all déi aner Funktiounen ze handhaben, déi Äert Geschäft hëllefen ze fléien.
Awer dann kënnt eng Techfirma eraus mat AI-ugedriwwen Hammer Bots. D’Robotaarbechter kënnen Hammers vill méi séier maachen wéi Är mënschlech Aarbechter, während AI Agenten d’Geschäftssäit mat wéineg Iwwerwaachung kënne lafen. Si wäerten d’ganz Nuecht schaffen, ni Feeler maachen a vill manner kaschten wéi Är glécklech, gutt bezuelte Mataarbechter. Dir wëllt Är mënschlech Aarbechter net entloossen. Dir gesitt se ronderëm d’Stad an hunn hir Famillen jorelaang bekannt.
Awer Äre Konkurrent kritt den Hammer Bots. Déi meescht Clientë wëllen just déi bëllegst Hammers – et ass hinnen egal wien oder wat se mécht. Als CEO vun Hammer Co., Dir entweder konkurréiere oder stierwen. Also brennt Dir all Är Mënschen a kritt Hammer Bots fir se ze ersetzen.
Elo, probéiert ze virstellen datt dëst de Fall ass fir all Firma, an all Aarbecht. Mat normale fräie Maart Incentives, wäert d’Firma, déi trei zu senge mënschleche Mataarbechter bleift, vun der Firma outkonkurréiert ginn, déi AI kritt fir d’Aarbecht amplaz ze maachen.
Hei ass wou graduell Entmuechtung an d’Spill kënnt.
Wat manner Mënschen un der Aarbecht deelhuelen, an déi méi Aarbecht déi un AI Agenten outsourcéiert gëtt, wat méi d’Mënschheet vun der AI ofhängeg gëtt fir d’Entscheedung ze huelen an wat méi mënschlech Fäegkeeten verschlechtert ginn. Wéi laang bis déi méi fein Punkte vum Hammer-Making vergiess ginn?
Mat AI déi all eis komplex Entscheedunge fir eis mécht, ginn d’Mënsche manner fäeg dës Entscheedungen ze verstoen an ze iwwerwaachen oder géint se zréckzedrécken.
“Wann d’Leit d’Fäegkeeten net wierklech üben, déi d’Agenten fir si maachen, verléieren se d’Fäegkeet dës Fäegkeet ze hunn, an dofir sidd Dir elo ofhängeg”, sot d’Margaret Mitchell, en AI Fuerscher bei Hugging Face a Co-Autor vun engem anere rezente Pabeier iwwer d’Wichtegkeet vun de Mënschen an der Loop an enger AI Welt ze halen.
“Wat geschitt wann eppes falsch leeft? Et gëtt kee Mënsch op deen Dir weise kënnt, deen et fixéiere kann. Also sidd Dir elo ganz ofhängeg vun dëse Systemer fir sech selwer ze fixéieren, a wat wann dat net méiglech ass?”
E Risiko fir demokratesch Gouvernance
Et ass net nëmmen Wirtschaft an Aarbecht a Gefor. Huelt d’Militärzum Beispill. All oder déi meescht Entscheedungen am Krich Mënschen haut involvéieren, och wann AI zum Prozess bäidréit, awer d’Gläichgewiicht wäert sech wahrscheinlech veränneren wéi d’Technologie méi fäeg gëtt.
Wann d’USA AI benotzen fir Entscheedungen an der Schluecht ze treffen, ass seng Feinde iwwer d’Feld wäert gedréckt ginn datselwecht ze maachen. Déi Säit, déi méi staark op de Mënsch leet, wäert méi lues a manner effizient sinn. Mënsch Zaldoten brauchen Iessen a Rescht. Roboter Zaldoten wäerten net. Mënschlech Décideuren sinn limitéiert an den Szenarien déi se virstellen a plangen; AIs kënnen all mënschlecht Wëssen berücksichtegen.
“D’Staaten brauchen Bierger. Si brauchen eis, well mir Steiere bezuelen a mir kämpfen fir d’Staaten am Militär”, sot de Jan Kulveit, e Co-Autor vum graduellen Entloossungspabeier a Matgrënner vun der ACS Research Group.
Staaten benotzen och Leit fir Gesetzer ëmzesetzen. Awer wat wann d’Haftpflicht alles an Zukunft automatiséiert ass?
“Wann, oder wann, existéierend Staaten hir Bierger net brauchen, si si manner wahrscheinlech demokratesch,” sot de Kulveit.
Kulveit vergläicht theoretesch zukünfteg Länner, déi meeschtens vun AI lafen, mat Uelegstaaten haut. Hien huet gesot datt d’Uelegstaaten éischter autoritär sinn, well se net op déi meescht vun hire Bierger vertrauen fir Steieren ze bezuelen an d’Stëmme vun de Bierger net brauchen fir ze regéieren. Staaten, déi op AI vertrauen fir d’Wirtschaft a Militär ze bedreiwen, kënnen ähnlech Resultater hunn, sot de Kulveit.
Wann dat de Fall ass, an d’Bierger sinn net méi de Pilier vun der Aarbecht oder der Krichsféierung an enger Welt vun der gradueller Entmuechtung, da verléiert d’Mënsche vläicht hiren gréissten Hiewel géint déi un der Muecht.
“Vill Leit schwätze vu schlëmmen AI Hacking an Datenzenteren an iwwerhuelen d’Welt, awer et ass net am Mainstream Bewosstsinn datt wéi AI wuertwiertlech d’Welt iwwerhuelen kann, just andeems se weider maache wat et soll maachen, wat alles automatiséiert”, sot de Jay Chooi vu Robocurve.
“Organisatiounen hunn all e ganz staarken wirtschaftlechen Drock, a politeschen Drock, fir d’Mënschen auszeschléissen an d’Aarbecht ëmmer méi a Roboteren oder AI ze réckelen.”
Wéi vermeit d’Mënschheet graduell Entmuechtung?
Mënschen, déi d’Kontroll un AI ofginn, soen déi graduell Entmuechtungsautoren, ass bal en natierlechen Iwwergang eemol ganz fortgeschratt AI hei ass.
Graduell Entmuechtung “braucht net aus engem bewosst Schema oder Powergrab vun AI Systemer erauszekommen”, hunn de Kulveit a seng Kollegen geschriwwen. “Kurzfristeg gëtt et stimuléiert vum erkannte Wäert deen AI Systemer fir wirtschaftlech, kulturell a staatlech Funktiounen bréngen kënnen.”
“Mir kënnen net an der Situatioun sinn, wou mir mat de Maschinnen konkurréiere,” sot de Kulveit. “Well wa mir just mat de Maschinnen konkurréiere, wäerte mir wahrscheinlech verléieren.”
Déi graduell Entmuechtung Autoren gleewen datt eis Entmuechtung stoppen kann e schwéiere Lift fir d’Mënschheet sinn, well et komplex Systemer involvéiert déi sech anenee fidderen – Regierung, Kultur an d’Wirtschaft.
“Dëst kann eng méi grouss Erausfuerderung sinn wéi just ze verhënneren datt AI Systemer offensichtlech schiedlech Ziler verfollegen”, schreiwen se.
Een éischte Schrëtt fir d’Entloossung ze verlangsamen ass Indikatoren ze halen wéi vill Aarbecht un AI ofginn gëtt, a wéi eng spezifesch Aarbechtsplazen AI Systemer fäeg sinn ze handhaben. Wann Dausende vun Aarbechter duerch AI verdrängt ginn, zum Beispill, Call Center Aarbechtsplazen, hëlleft et dat am granulären Detail ze wëssen.
Awer Messung ass net genuch ouni Handlung, sot de Mitchell. Si argumentéiert datt d’Mënschen aus der Loop an AI Prozesser ewechhuelen souwuel d’Iwwerwaachung verschlechtert an d’Fäegkeete vum mënschleche Overseer degradéiert. Dofir musse Firmen a Leedung an alle Beräicher proaktiv Schrëtt huelen fir d’Mënschen engagéiert ze halen.
“Dës allgemeng Praxis am Tech ass datt mir wëllen datt eis Systemer friktiounslos sinn,” sot de Mitchell, a bezitt sech op d’Iddi datt alles séier an ouni Hindernisser soll bewegen. “Et gëtt e Sënn datt wat manner Reibung desto besser ass, awer et gouf e Push bannent der méi ethescher AI Gemeinschaft datt strategesch Reibung gutt ka sinn, well et d’Leit op kritesch Themen opmierksam ka maachen, déi se soss iwwersinn kënnen.”
De Mitchell argumentéiert datt strategesch Reibung – d’Mënschen an der Aarbechtsschleife bei virbestëmmten Schrëtt halen – ka gemaach ginn souwuel vun Entwéckler vun AI, Firmen wéi OpenAI an Anthropic a Google, wéi och vun Firmen an Organisatiounen déi AI ofsetzen. Duerchduechte an gezielte Design vun AI kann d’Gesellschaft als Ganzt profitéieren, an d’Individuen déi se benotzen.
De Kulveit ass averstanen datt AI soll duerchduechte entworf ginn fir de Mënsch Wäert ze addéieren, net onbedéngt eis all Aufgab ersetzen.
“Dir wëllt Plazen ausschneiden wou mir averstane sinn datt mir net kompetitiv Drock erlaben d’Mënschen aus der Loop ze läschen,” sot hien. “Et wier flott wann d’Firmen d’AIs trainéieren fir méi komplementar zu de Mënschen ze sinn. Am Moment sinn d’AIs implizit trainéiert fir en Ersatz fir Mënschen ze sinn. Mee Dir kënnt Iech virstellen, d’AIs ze trainéieren, fir datt se eis besser erkläre wat geschitt.”
De Kulveit beschreift AI déi net nëmmen d’Äntwerten op all Fro ausspréngt, déi Dir et stellt, op d’mannst a Secteuren wou et kritesch ass mënschlech Expertise an Entscheedungsprozess ze enthalen, wéi Krich. Schnell an einfach Äntwerten kënnen hëllefräich sinn, awer si kënnen Iech och ofhängeg a gleeft maachen, wann Dir gleeft alles wat de Chatbot Iech seet, ob richteg oder falsch.
Awer AI ka méi sinn wéi dat. Et kann Iech hëllefen net nëmmen andeems Dir d’Aarbecht fir Iech maacht, awer andeems Dir Iech laanscht de Wee educéiert. Esou léiert de mënschlechen Aarbechter weider wärend hien AI als Partner benotzt, net als Ersatz.
“Et gouf sou een eenzegen Fokus op d’Fäegkeet oder d’Funktionalitéit vun dëse Systemer zum Nodeel vu Leit, zum Nodeel vun de Benotzer,” sot de Mitchell. “Wann Äert eenzegt Zil ass en héije Score op engem Benchmark ze kréien, da wäert Dir kee kognitiven Ënnerstëtzungsdesign berücksichtegen. Awer wann Äert Zil ass e System ze maachen deen wierklech gutt fir d’Leit funktionnéiert – wéi wann d’Course fir en Utility ass am Géigesaz zum Benchmark Score – da sidd Dir um Enn grondsätzlech verschidde Systemer ze designen.
Wann graduell Entmuechtung wierklech e grousse Risiko ass, am Verglach mat méi geschwatenen Doom Szenarien – wéi AI hëlleft Biowaffen oder chemesch Waffen ze designen – et kann ënner engem relativen Mangel u Vividness leiden.
“Mir wësse wat et heescht fir e Roboter d’Welt z’iwwerhuelen. Mir wësse wat et bedeit datt Länner sech géigesäiteg nuken”, sot de Chooi. “AI iwwerhëlt d’Welt ass ganz liesbar am mënschleche Bewosstsinn. Awer graduell Entmuechtung? Keen huet e Film iwwer graduell Entmuechtung gemaach.”
Awer fir Chooi ass graduell Entmuechtung ganz einfach ze bilden.
“All Organisatiounen hunn Ureizer et ze adoptéieren an d’Mënschen auszeschléissen,” sot hien. “Dëst ass eng ganz logesch Conclusioun. Et ass net ganz schwéier et ze gesinn.”