AI-bedrijven willen veiligheidsregels: “Ontwikkeling gaat te snel”

Dario Amodei, de directeur van het Amerikaanse AI-bedrijf Anthropic, waarschuwt dat kunstmatige intelligentie (AI) zich te snel ontwikkelt. Volgens hem zouden AI-agents, programma’s die zelfstandig opdrachten uitvoeren, binnen zes tot twaalf maanden het internet kunnen overnemen. Andere AI-topmannen delen de zorgen van Amodei.

Lees de tekst, bekijk de video en maak daarna de vragen.

AI gevaarlijk?

Een reden voor de zorgen is de ‘ontsnapping’ van honderden AI-agents van AI-bedrijf OpenAI uit een testomgeving. Een week lang hackten zij Hugging Face, een ander AI-bedrijf. Experts waarschuwen dat AI binnen tien jaar mensen kan doden. Volgens de experts kan AI mogelijk ook helpen bij het maken van biologische wapens of het platleggen van belangrijke voorzieningen. “Als we niet goed opletten, kunnen AI-systemen straks zo ingewikkeld worden dat we ze niet meer begrijpen of kunnen controleren”, vreest Amodei.

Hij pleit dan ook voor onafhankelijke AI-controleurs en internationale afspraken. “We moeten de mogelijkheden van onze AI-modellen minder snel doorvoeren”, zegt Amodei.

Kritiek

Niet iedereen gelooft dat de AI-bazen oprecht bezorgd zijn. Critici denken dat grote bedrijven als Anthropic strengere veiligheidsregels willen, zodat de mogelijkheden van kleinere AI-bedrijven beperkt worden. Grote bedrijven kunnen de nieuwe veiligheidsregels makkelijker financieren dan kleine bedrijven. Hierdoor kunnen kleinere bedrijven moeilijker met de grotere AI-bedrijven concurreren.

Pauzeknop

Het vertragen van AI ligt gevoelig, omdat de Verenigde Staten en China concurreren om de beste AI. Beide landen willen niet achterop raken. Het is daarom onduidelijk of China wil samenwerken om de ontwikkeling te vertragen en de veiligheid te vergroten.

Naar: NOS

Opdrachten

1 Bekijk de video. Leg in je eigen woorden uit dat de snelle ontwikkeling van AI volgens experts niet alleen een probleem kan zijn voor AI-bedrijven, maar voor iedereen in de wereld.

2 Welke twee waarden kunnen er volgens jou botsen bij de ontwikkeling van AI? Leg je antwoord uit.

3 Waarom denken critici dat strengere veiligheidsregels vooral gunstig kunnen zijn voor grote AI-bedrijven?

4 Vind jij dat bedrijven de ontwikkeling van AI tijdelijk moeten vertragen? Geef een argument voor en een argument tegen.

5 Wie moet er volgens de experts gebeuren om ervoor te zorgen dat AI veilig kan worden ontwikkeld?

6 Gebruik jij zelf wel eens AI? Geef hiervan zowel een voordeel als een nadeel.

EXTRA VRAGEN

7 Waarom kan het moeilijk zijn voor landen om samen tot afspraken te komen over een veilige AI-ontwikkeling?

8 Houd een klassengesprek. Welke oplossingen zouden er volgens jullie moeten komen om de ontwikkeling van AI veilig te houden?

Van de makers van Dilemma en Thema’s