FN-sjefen slår KI-alarm
Kunstig intelligens (KI) innebærer farer som ikke kan ignoreres, slår FNs generalsekretær António Guterres fast.
Han havner dermed på kollisjonskurs med USAs president Donald Trump, som har avfeid KI-kritikken og uttalt at dagens sikkerhetstiltak er tilstrekkelige.
Overfor journalister i New York varsler Guterres at nødvendigheten av mer KI-kontroll globalt vil bli et hovedtema i hans tale til FNs generalforsamling neste uke.
– Vi har ikke råd til å ignorere bekymringer som er blitt reist, særlig fra folk som er i front i KI-utviklingen. Det første bud for enhver regjering er å beskytte sine innbyggere, også mot trusler fra kunstig intelligens, sier han.
Guterres har lenge kjempet for en global regelstyring av KI.
– Vi trenger en felles forståelse av hvordan vi kan utvikle KI på en sikker og ansvarlig måte, sier han.
Frykter katastrofale følger
For en knapp uke siden uttrykte toppsjefen for tek-giganten Anthropic, Dario Amodei, dyp bekymring for KI-utviklingen. Han frykter katastrofale følger om utviklingen ikke bremses.
– Vi må senke tempoet der vi forbedrer kapasiteten til KI-modeller. Fremgangen vil fortsatt virke rask, og vi må bruke tiden vi vinner på en klok måte, skrev han på sin egen nettside.
Hvis ikke frykter Amodei at menneskeheten kan miste kontrollen over teknologien.
Elon Musk er blant dem som har sagt seg enige med Amodei.
Sa opp jobben
En annen Anthropic-forsker, Jacob Coxon, sa nylig opp jobben i protest mot det han mener er en ukontrollert utvikling – som han frykter kan utslette menneskeheten om ti år.
Trump mener på sin side at det ikke er behov for strengere reguleringer.
– Vi kan innføre sikkerhetstiltak. Vi kan gjøre dette og hint. Men jeg mener det er mange svært negative krefter som tar opp ting de ikke burde ta opp, og de trekker fram ting som ikke kommer til å skje, sa han søndag.
Ifølge Trump er det bare Kina som vil tjene på strengere KI-regelverk.
