Artificiell intelligens och människors framtid

(Saul Loeb / AFP / Getty Images)

Det digitala livet förstärker mänsklig kapacitet och stör äldre mänskliga aktiviteter. Koddrivna system har spridit sig till mer än hälften av världens invånare i omgivande information och anslutningsmöjligheter, vilket erbjuder tidigare otänkbara möjligheter och oöverträffade hot. När framväxande algoritmdriven artificiell intelligens (AI) fortsätter att spridas, kommer människor att ha det bättre än de är idag?

Några 979 teknologipionjärer, innovatörer, utvecklare, affärs- och policyledare, forskare och aktivister svarade på den här frågan i en gjutning av experter som genomfördes sommaren 2018.

Experterna förutspådde nätverksbaserad artificiell intelligens kommer att förstärka mänsklig effektivitet men också hota mänsklig autonomi, myndighet och kapacitet. De talade om de omfattande möjligheterna; att datorer kan matcha eller till och med överträffa mänsklig intelligens och kapacitet för uppgifter som komplex beslutsfattande, resonemang och lärande, sofistikerad analys och mönsterigenkänning, synskärpa, taligenkänning och språköversättning. De sa att 'smarta' system i samhällen, i fordon, i byggnader och verktyg, på gårdar och i affärsprocesser kommer att spara tid, pengar och liv och erbjuda möjligheter för individer att njuta av en mer anpassad framtid.

Många fokuserade sina optimistiska kommentarer på hälso-och sjukvården och de många möjliga tillämpningarna av AI för att diagnostisera och behandla patienter eller hjälpa äldre medborgare att leva fylligare och friskare liv. De var också entusiastiska över AI: s roll i att bidra till breda folkhälsoprogram byggda kring massiva mängder data som kan fångas under de kommande åren om allt från personliga genomer till näring. Dessutom förutspådde ett antal av dessa experter att AI skulle avvärja efterlängtade förändringar i formella och informella utbildningssystem.

Ändå uttryckte de flesta experter, oavsett om de är optimistiska eller inte, oro över den långsiktiga inverkan av dessa nya verktyg på de väsentliga delarna av att vara människa. Alla respondenter i denna icke-vetenskapliga grävning ombads att utarbeta varför de ansåg att AI skulle lämna människor bättre eller inte. Många delade djupa bekymmer och många föreslog också vägar mot lösningar. De huvudsakliga teman som de lät om hot och lösningar beskrivs i den bifogade tabellen.

AI och människors framtid: Experter uttrycker oro och föreslår lösningar

BETRÄDER Mänsklig byrå:
Individer upplever förlust av kontroll över sina liv
Beslutsfattande om viktiga aspekter av det digitala livet överförs automatiskt till koddrivna 'black box' -verktyg. Människor saknar input och lär sig inte sammanhanget om hur verktygen fungerar. De offrar självständighet, integritet och makt över val; de har ingen kontroll över dessa processer. Denna effekt kommer att fördjupas när automatiserade system blir mer vanliga och komplexa.
Datamissbruk:
Dataanvändning och övervakning i komplexa system är utformad för vinst eller för att utöva makt
De flesta AI-verktyg är och kommer att finnas i händerna på företag som strävar efter vinst eller regeringar som strävar efter makt. Värden och etik bakas ofta inte in i de digitala systemen som gör människors beslut för dem. Dessa system är globalt nätverksanslutna och inte lätta att reglera eller hålla i.
Förlust av jobb:
AI-övertagandet av arbetstillfällen kommer att öka ekonomiska skillnader och leda till social omvälvning
Effektiviteten och andra ekonomiska fördelar med kodbaserad maskinintelligens kommer att fortsätta att störa alla aspekter av mänskligt arbete. Medan vissa förväntar sig nya arbetstillfällen kommer andra att oroa sig för massiva jobbförluster, ökade ekonomiska skillnader och sociala omvälvningar, inklusive populistiska uppror.
Beroende låsning:
Minskning av individers kognitiva, sociala och överlevnadsförmåga
Många ser AI som förstärkning av mänsklig kapacitet, men en del förutspår det motsatta - att människors fördjupade beroende av maskindrivna nätverk kommer att urholka deras förmåga att tänka själva, vidta åtgärder oberoende av automatiserade system och interagera effektivt med andra.
Förödelse:
Autonoma vapen, it-brottslighet och vapeninformation
Vissa förutspår ytterligare erosion av traditionella sociopolitiska strukturer och möjligheten till stora människoliv på grund av påskyndad tillväxt av autonoma militära applikationer och användningen av vapeninformation, lögner och propaganda för att farligt destabilisera mänskliga grupper. Vissa är också rädda för cyberbrottslingar att nå ekonomiska system.
FÖRSLAG TILL LÖSNINGAR Globalt gott är nr 1:
Förbättra mänskligt samarbete över gränser och
intressentgrupper
Digital samarbete för att tjäna mänsklighetens bästa är högsta prioritet. Man måste hitta sätt för människor runt om i världen att komma till gemensamma överenskommelser och överenskommelser - att gå samman för att underlätta innovationen av allmänt accepterade metoder som syftar till att ta itu med onda problem och upprätthålla kontroll över komplexa mänskliga-digitala nätverk.
Värde-baserat system:
Utveckla riktlinjer för att försäkra sig om att AI kommer att riktas mot ”mänsklighet” och gemensamt bästa
Anta en 'moonshot-mentalitet' för att bygga inkluderande, decentraliserade intelligenta digitala nätverk 'genomsyrade av empati' som hjälper människor aggressivt att se till att tekniken uppfyller sociala och etiska skyldigheter. Någon ny nivå av reglerings- och certifieringsprocess kommer att vara nödvändig.
Prioritera människor:
Ändra ekonomiska och politiska system för att bättre hjälpa människor att ”tävla med robotarna”
Omorganisera ekonomiska och politiska system mot målet att utöka människors kapacitet och förmåga för att öka mänskligt / AI-samarbete och starka trender som skulle äventyra mänsklig relevans inför programmerad intelligens.

PEW FORSCHER CENTER OCH ELON UNIVERSITY'S IMAGINING THE INTERNET CENTER



Närmare bestämt ombads deltagarna att överväga följande:

Tänk framåttill år 2030. Analytiker förväntar sig att människor blir ännu mer beroende av artificiell intelligens (AI) i komplexa digitala system. Vissa säger att vi kommer att fortsätta på den historiska bågen för att öka våra liv med mestadels positiva resultat när vi i stor utsträckning implementerar dessa nätverksverktyg. Vissa säger att vårt ökande beroende av dessa AI och relaterade system sannolikt kommer att leda till omfattande svårigheter.

Vår fråga: Tror du att det är troligtast att 20 AI och relaterade tekniska system fram till 2030 kommer att förbättra mänsklig kapacitet och stärka dem? Det vill säga att de flesta människor har det bättre än de är idag? Eller är det troligt att avancerad AI och relaterade teknologisystem kommer att minska mänsklig autonomi och handlingsfrihet i en sådan utsträckning att de flesta inte kommer att ha det bättre än hur det är idag?

Sammantaget, och trots nackdelarna de fruktar,63%av respondenterna i denna grävning sa att de är hoppfulla att de flesta individer har det mesta bättre 2030 och37%sa människor kommerinteha det bättre.

Ett antal av de tankeledare som deltog i denna grävning sa att människors ökade beroende av tekniska system bara kommer att gå bra om man ägnar stor uppmärksamhet åt hur dessa verktyg, plattformar och nätverk konstrueras, distribueras och uppdateras. Några av de kraftfulla, övergripande svaren inkluderade de från:

Sonia katyal, meddirektör för Berkeley Center for Law and Technology och ledamot av den första amerikanska handelsavdelningen Digital Economy Board of Advisors, förutspådde '' 2030 kommer den största uppsättningen frågor att innebära hur uppfattningar om AI och deras tillämpning kommer att påverka bana för medborgerliga rättigheter i framtiden. Frågor om integritet, tal, rätten till församling och teknisk konstruktion av personlighet kommer alla att dyka upp igen i detta nya AI-sammanhang, och ifrågasätta vår djupaste tro på jämställdhet och möjligheter för alla. Vem som kommer att gynnas och vem som kommer att missgynnas i denna nya värld beror på hur brett vi analyserar dessa frågor idag, för framtiden.

Vi måste arbeta aggressivt för att säkerställa att tekniken matchar våra värderingar. Erik Brynjolfsson

Erik Brynjolfsson, chef för MIT-initiativet om den digitala ekonomin och författare till 'Machine, Platform, Crowd: Harnessing Our Digital Future', sade, 'AI och relaterad teknik har redan uppnått övermänskliga prestationer inom många områden, och det råder liten tvivel om att deras kapacitet kommer att förbättras, troligen mycket markant, 2030. ... Jag tror att det är mer troligt än inte att vi kommer att använda denna kraft för att göra världen till en bättre plats. Vi kan till exempel praktiskt taget eliminera global fattigdom, massivt minska sjukdomar och ge bättre utbildning till nästan alla på planeten. Med det sagt kan AI och ML (maskininlärning) också användas för att alltmer koncentrera rikedom och makt, lämna många människor bakom sig och skapa ännu mer skrämmande vapen. Inget resultat är oundvikligt, så den rätta frågan är inte ”Vad kommer att hända?” Utan ”Vad ska vi välja att göra?” Vi måste arbeta aggressivt för att se till att tekniken matchar våra värderingar. Detta kan och måste göras på alla nivåer, från regeringen, till näringslivet, till den akademiska världen och till individuella val. '

Bryan Johnson, grundare och VD för Kernel, en ledande utvecklare av avancerade neurala gränssnitt, och OS Fund, ett riskkapitalföretag, sa: 'Jag tror starkt att svaret beror på om vi kan flytta våra ekonomiska system mot att prioritera radikal mänsklig förbättring och stärka trenden mot mänsklig irrelevans inför AI. Jag menar inte bara jobb; Jag menar sann, existentiell irrelevans, vilket är slutresultatet av att man inte prioriterar mänskligt välbefinnande och kognition '.

Marina Gorbis, verkställande direktör för Institutet för framtiden, sa: 'Utan betydande förändringar i vår politiska ekonomi och datastyrningsregimer (AI) kommer sannolikt att skapa större ekonomiska ojämlikheter, mer övervakning och mer programmerade och icke-mänskliga centrerade interaktioner. Varje gång vi programmerar våra miljöer slutar vi programmera oss själva och våra interaktioner. Människor måste bli mer standardiserade och ta bort serendipity och tvetydighet från våra interaktioner. Och denna tvetydighet och komplexitet är det som är kärnan i att vara människa.

Judith Donath, författare till 'The Social Machine, Designs for Living Online' och fakultetskollegor vid Harvard Universitys Berkman Klein Center for Internet & Society, kommenterade: 'År 2030 kommer de flesta sociala situationer att underlättas av bots - intelligenta program som verkar med oss på människoliknande sätt. Hemma kommer föräldrar att anlita skickliga robotar för att hjälpa barn med läxor och katalysera middagssamtal. På jobbet kommer bots att driva möten. En botförtroende kommer att betraktas som nödvändig för psykologiskt välbefinnande, och vi kommer i allt högre grad att vända oss till sådana följeslagare för rådgivning, allt från vad man ska ha på sig till vem man ska gifta sig med. Vi människor bryr oss djupt om hur andra ser oss - och de andra vars godkännande vi söker kommer i allt högre grad att vara konstgjorda. Då kommer skillnaden mellan människor och robotar att ha suddats ut avsevärt. Via skärm och projektion kommer bots röst, utseende och beteende att kunna skiljas från människors och till och med fysiska robotar, även om de uppenbarligen är icke-mänskliga, kommer att vara så övertygande uppriktiga att vårt intryck av dem som tänkande, känslande varelser, i nivå med eller överlägsen oss själva, kommer att skakas. Att lägga till tvetydigheten kommer vår egen kommunikation att förstärkas kraftigt: Program kommer att komponera många av våra meddelanden och vårt online / AR-utseende kommer (att) beräknas. (Rått, ohjälpt mänskligt tal och uppträdande kommer att verka pinsamt klumpigt, långsamt och osofistikerat.) Hjälp av deras tillgång till stora datauppgifter om var och en av oss kommer bots långt att överträffa människor i deras förmåga att locka och övertyga oss. Förmåga att efterlikna känslor på ett sakkunnigt sätt kommer de aldrig att övervinnas av känslor: Om de sprider ut något i ilska kommer det att bero på att detta beteende beräknades vara det mest effektiva sättet att avancera oavsett vilka mål de hade 'i åtanke.' Men vad är dessa mål? Konstgjort intelligenta följeslagare kommer att kultivera intrycket att sociala mål som liknar våra egna motiverar dem - att hållas med hänsyn, vare sig som en älskad vän, en beundrad chef, etc. Men deras verkliga samarbete kommer att vara med människorna och institutionerna som kontrollerar dem . Precis som sina förfäder i dag kommer dessa att vara säljare av varor som använder dem för att stimulera konsumtion och politiker som uppmanar dem att leda åsikter.

Andrew McLaughlin, verkställande direktör för Center for Innovative Thinking vid Yale University, tidigare biträdande teknologichef för USA för president Barack Obama och global global policy-ledare för Google, skrev: '2030 är inte långt i framtiden. Min uppfattning är att innovationer som internet och AI i nätverk har enorma kortsiktiga fördelar, tillsammans med långsiktiga negativ som det kan ta årtionden att känna igen. AI kommer att driva ett brett spektrum av effektivitetsoptimeringar men också möjliggöra dold diskriminering och godtycklig bestraffning av individer inom områden som försäkring, arbetssökning och prestationsbedömning.

Michael M. Roberts, första VD och koncernchef för Internet Corporation for Assigned Names and Numbers (ICANN) och Internet Hall of Fame-medlem, skrev: 'Utbudet av möjligheter för intelligenta agenter att öka mänsklig intelligens är fortfarande praktiskt taget obegränsat. Det viktigaste problemet är att ju mer bekväm en agent är, desto mer behöver den veta om dig - preferenser, timing, kapacitet etc. - vilket skapar en avvägning av mer hjälp kräver mer intrång. Detta är inte en svartvitt fråga - gråtonerna och tillhörande lösningar kommer att diskuteras oändligt. Rekordet hittills är att bekvämlighet överväger integriteten. Jag misstänker att det kommer att fortsätta '.

danah boyd, en huvudforskare för Microsoft och grundare och president för Data & Society Research Institute, sa: 'AI är ett verktyg som kommer att användas av människor för alla möjliga ändamål, inklusive i strävan efter makt. Det kommer att finnas maktmissbruk som involverar AI, precis som det kommer att ske framsteg inom vetenskap och humanitära insatser som också involverar AI. Tyvärr finns det vissa trendlinjer som sannolikt kommer att skapa massiv instabilitet. Ta till exempel klimatförändringar och klimatmigration. Detta kommer att destabilisera Europa och USA ytterligare, och jag förväntar mig att vi i panik kommer att se AI användas på skadliga sätt mot bakgrund av andra geopolitiska kriser.

Amy Webb, grundare av Future Today Institute och professor i strategisk framsyn vid New York University, kommenterade: 'De sociala skyddsnätstrukturer som för närvarande finns i USA och i många andra länder runt om i världen var inte utformade för vår övergång till AI. Övergången genom AI kommer att pågå de närmaste 50 åren eller mer. När vi går längre in i denna tredje era av datorer, och när varje enskild bransch blir djupare förankrad i AI-system, behöver vi nya hybridkunniga kunskapsarbetare som kan arbeta i jobb som aldrig tidigare har behövt existera. Vi behöver jordbrukare som vet hur man arbetar med stora datamängder. Onkologer utbildade sig som robotocister. Biologer utbildade sig som elektrotekniker. Vi behöver inte förbereda vår personal bara en gång med några ändringar i läroplanen. När AI mognar kommer vi att behöva en lyhörd personal som kan anpassa sig till nya processer, system och verktyg med några års mellanrum. Behovet av dessa områden kommer att uppstå snabbare än vad våra arbetsavdelningar, skolor och universitet erkänner. Det är lätt att se tillbaka på historien genom nutidens lins - och att förbise den sociala oron som orsakas av utbredd teknisk arbetslöshet. Vi måste ta itu med en svår sanning som få är villiga att uttrycka högt: AI kommer så småningom att få ett stort antal människor att vara permanent utan arbete. Precis som generationer tidigare sett stora förändringar under och i efterdyningarna av den industriella revolutionen, kommer den snabba tekniska hastigheten sannolikt att innebära att Baby Boomers och de äldsta medlemmarna i Gen X - särskilt de vars jobb kan replikeras av robotar - inte kommer att vara kunna omskola sig för andra typer av arbete utan en betydande investering av tid och ansträngning.

Barry Chudakov, grundare och rektor för Sertain Research, kommenterade: 'År 2030 kommer samarbetet mellan maskin och AI att vara ett nödvändigt verktyg för att hantera och motverka effekterna av flera samtidiga accelerationer: bred teknikutveckling, globalisering, klimatförändringar och därmed sammanhängande globala migrationer. Tidigare lyckades mänskliga samhällen förändras genom tarmar och intuition, men som Eric Teller, VD för Google X, har sagt, ”Våra samhällsstrukturer misslyckas med att hålla jämna steg med förändringstakten.” Att hålla jämna steg med den förändringen och att hantera en växande lista med 'onda problem' fram till 2030, AI - eller använda Joi Itos fras, utökad intelligens - kommer att värdera och omvärdera praktiskt taget alla områden av mänskligt beteende och interaktion. AI och avancerad teknik kommer att förändra vår svarsram och tidsramar (vilket i sin tur förändrar vår tidskänsla). Där en gång social interaktion inträffade på platser - arbete, skola, kyrka, familjemiljöer - kommer sociala interaktioner alltmer att ske under kontinuerlig, samtidig tid. Om vi ​​har turen kommer vi att följa de 23 Asilomar AI-principerna som framläggs av Future of Life Institute och kommer att arbeta för 'inte riktad intelligens utan nyttiga intelligens.' Liknande kärnkraftsavskräckning som härrör från ömsesidigt säker förstörelse, AI och relaterade teknologisystem utgör en kraft för en moralisk renässans. Vi måste anamma den moraliska renässansen, annars kommer vi att möta moraliska besvär som kan leda till mänsklig död. ... Mitt största hopp för samarbete mellan maskin och AI utgör en moralisk och etisk renässans - vi antar en månskottsmentalitet och låser armarna för att förbereda oss för accelerationer som kommer mot oss. Min största rädsla är att vi antar logiken i vår framväxande teknik - omedelbar respons, isolering bakom skärmar, oändlig jämförelse av självvärde, falsk självpresentation - utan att tänka eller svara smart '.

John C. Havens, verkställande direktör för IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems and the Council on Extended Intelligence, skrev: '' Nu, 2018, kan en majoritet av människor runt om i världen inte få tillgång till deras data, så någon '' human-AI augmentation-diskussioner ignorerar det kritiska sammanhanget för vem som faktiskt kontrollerar människors information och identitet. Snart blir det extremt svårt att identifiera autonoma eller intelligenta system vars algoritmer inte interagerar med mänskliga data i en eller annan form '.

Det står inget mindre än på vilken typ av samhälle vi vill leva i och hur vi upplever vår mänsklighet. Batya Friedman

Batya Friedman, en interaktionsprofessor mellan människa och dator vid University of Washingtons informationsskola, skrev: ”Vår vetenskapliga och tekniska kapacitet har och kommer att fortsätta att överträffa våra moraliska - det är vår förmåga att på ett klokt och mänskligt sätt använda den kunskap och verktyg som vi utvecklar ... Automatiserad krigföring - när autonoma vapen dödar människor utan mänskligt engagemang - kan leda till bristande ansvar för att ta fiendens liv eller till och med veta att en fiendes liv har tagits. Det står inget mindre än på vilken typ av samhälle vi vill leva i och hur vi upplever vår mänsklighet.

Greg Shannon, chefsforskare för CERT-avdelningen vid Carnegie Mellon University, sa: 'Bättre / sämre kommer att visas 4: 1 med det långsiktiga förhållandet 2: 1. AI kommer att göra bra för repetitivt arbete där 'nära' kommer att vara tillräckligt bra och människor ogillar arbetet ... Livet kommer definitivt att bli bättre när AI förlänger livstider, från hälsoappar som intelligent 'knuffar' oss till hälsa, till varningar om förestående hjärta / strokehändelser, till automatiserad hälso- och sjukvård för underbetjänade (avlägsna) och de som behöver utökad vård (äldreomsorg). När det gäller frihet finns det tydliga risker. AI påverkar byrå genom att skapa enheter med meningsfulla intellektuella möjligheter för att övervaka, genomdriva och till och med bestraffa individer. De som vet hur man använder det kommer att ha enorm potential över dem som inte / kan inte. Framtida lycka är verkligen oklart. Vissa kommer att överlåta sin byrå till AI i spel, arbete och samhälle, ungefär som den opioida krisen stjäl byrån idag. Å andra sidan kommer många att befrias från vardagliga, oengagerande uppgifter / jobb. Om element av samhällslycka är en del av AI-funktionerna, kan AI katalysera en explosion av lycka '.

Costas Alexandridis, författare till 'Exploring Complex Dynamics in Multi-agent-based Intelligent Systems', förutspådde, 'Många av våra dagliga beslut kommer att automatiseras med minimalt ingripande av slutanvändaren. Autonomi och / eller oberoende kommer att offras och ersättas av bekvämlighet. Nyare generationer av medborgare kommer att bli mer och mer beroende av AI-strukturer och processer i nätverk. Det finns utmaningar som måste hanteras när det gäller kritiskt tänkande och heterogenitet. Nätverkets ömsesidiga beroende kommer, mer sannolikt än inte, att öka vår sårbarhet för cyberattacker. Det finns också en sannolik sannolikhet att det kommer att finnas skarpare uppdelningar mellan digitala 'haves' och 'have-nots', liksom bland tekniskt beroende digital infrastruktur. Slutligen är det frågan om de nya 'kommanderande höjderna' för den digitala nätverksinfrastrukturens ägande och kontroll '.

Oscar Gandy, emeritus-professor i kommunikation vid University of Pennsylvania, svarade: ”Vi står redan inför ett otänkbart antagande när vi ombeds att föreställa oss ett samarbete mellan människa och maskin.” Interaktion är lite annorlunda, men ändå besvärad av beviljandet av en form av identitet - kanske till och med personlighet - till maskiner som vi kommer att använda för att ta oss igenom alla möjliga möjligheter och utmaningar. Problemen vi kommer att möta i framtiden liknar de problem som vi för närvarande står inför när vi litar på 'andra' (inklusive tekniska system, enheter och nätverk) för att förvärva saker vi värdesätter och undvika de andra sakerna (som vi kan, eller kanske var inte medveten om ').

James Scofield O'Rourke, en professor i ledning vid University of Notre Dame, sa: 'Teknik har under hela historien varit ett i stort sett neutralt koncept. Frågan om dess värde har alltid varit beroende av dess tillämpning. För vilket syfte kommer AI och andra tekniska framsteg att användas? Allt från krut till förbränningsmotorer till kärnklyvning har tillämpats på både hjälpsamma och destruktiva sätt. Förutsatt att vi kan innehålla eller kontrollera AI (och inte tvärtom) beror svaret på om vi har det bättre helt och hållet på oss (eller vår avkomma). ”Felet, kära Brutus, ligger inte i våra stjärnor, utan i oss själva, att vi är underjordiska.”

Simon Biggs, professor i tvärvetenskaplig konst vid University of Edinburgh, sa: 'AI kommer att fungera för att öka mänsklig kapacitet. Problemet är inte med AI utan med människor. Som art är vi aggressiva, konkurrenskraftiga och lata. Vi är också empatiska, samhällsinriktade och (ibland) självuppoffrande. Vi har många andra attribut. Dessa kommer alla att förstärkas. Med tanke på historiskt prejudikat måste man anta att det kommer att bli våra värsta egenskaper som förstärks. Min förväntan är att AI 2030 kommer att vara i rutinmässig användning för att bekämpa krig och döda människor, mycket mer effektivt än vi för närvarande kan döda. Som samhällen kommer vi att påverkas mindre av detta som vi för närvarande är, eftersom vi inte kommer att kämpa och döda oss själva. Vår förmåga att modifiera vårt beteende, med förbehåll för empati och tillhörande etiska ramar, kommer att minskas genom avskiljningen mellan vår byrå och dödsakten. Vi kan inte förvänta oss att våra AI-system är etiska för våra räkning - det kommer de inte att göra, eftersom de kommer att utformas för att döda effektivt, inte eftertänksamt. Min andra primära oro är att göra med övervakning och kontroll. Tillkomsten av Kinas Social Credit System (SCS) är en indikator på vad det sannolikt kommer att komma. Vi kommer att finnas inom en SCS då AI konstruerar hybridinstanser av oss själva som kanske eller inte kan likna vem vi är. Men våra rättigheter och förmåner som individer kommer att bestämmas av SCS. Detta är den orwellska mardrömmen som realiserats '.

Mark Surman, verkställande direktör för Mozilla Foundation, svarade, 'AI kommer att fortsätta att koncentrera makt och rikedom i händerna på några stora monopol baserade på USA och Kina. De flesta människor - och delar av världen - kommer att ha det sämre '.

William Uricchio, medievetare och professor i jämförande mediestudier vid MIT, kommenterade: 'AI och dess relaterade tillämpningar står inför tre problem: utveckling i snabb takt av Moores lag, utveckling i händerna på en teknisk och ekonomisk elit och utveckling utan nytta av en informerad eller engagerad allmänhet. Allmänheten reduceras till ett konsumentkollektiv som väntar på nästa teknik. Vems uppfattning om ”framsteg” kommer att råda? Vi har gott om bevis på att AI används för att driva vinster, oavsett konsekvenser för långvariga värden; för att förbättra statlig kontroll och till och med få medborgarnas ”sociala kredit” utan inlägg från medborgarna själva. Precis som teknik innan den är AI agnostisk. Dess utplacering vilar i samhällets händer. Men frånvaro av en AI-kompetent allmänhet kommer beslutet om hur man bäst ska distribuera AI att falla för särskilda intressen. Kommer detta att innebära rättvis utplacering, förbättring av social orättvisa och AI i den offentliga sektorn? Eftersom svaret på denna fråga är socialt snarare än tekniskt är jag pessimistisk. Fixen? Vi måste utveckla en AI-kompetent allmänhet, vilket innebär fokuserad uppmärksamhet i utbildningssektorn och i media som riktar sig till allmänheten. Vi måste säkerställa mångfald i utvecklingen av AI-teknik. Och tills allmänheten, dess valda representanter och deras lagliga och reglerande regimer kan komma i fart med denna snabba utveckling måste vi vara försiktiga och övervaka i AI: s utveckling '.

Resten av denna rapport är indelad i tre avsnitt som drar från hundratals ytterligare respondenters hoppfulla och kritiska observationer: 1) oro för human-AI-utveckling, 2) föreslagna lösningar för att hantera AI: s inverkan, och 3) förväntningar på hur livet kommer att bli som 2030, inklusive respondenternas positiva syn på livskvaliteten och framtiden för arbete, hälsovård och utbildning. Vissa svar redigeras lätt för stil.