Det gælder for robotteknologi og kunstig intelligens (som for alle andre teknologier), at mennesker kan vælge at bruge dem til at gøre gavn eller at gøre skade.

I Danmark lancerede Det Etiske Råd i 2007 en debat om nye intelligente teknologier, herunder sociale robotter. Rådet pegede på en række etiske problemstillinger inden for omsorgsrelationer og intimitetsgrænser, når robotter og mennesker begynder at indgå i relationer med hinanden. I en udtalelse satte rådet spørgsmålstegn ved i hvilket omfang at det er etisk problematisk, hvis sociale robotter i stadigt stigende omfang kan ligne mennesker i udseende, kommunikation og adfærd og dermed foregive, at de er selvstændigt følende og agerende væsener. Desuden satte rådet spørgsmålstegn ved, hvad det vil betyde, hvis sociale robotter kan udstyres med evnen til at tage ved lære og handle med nogle frihedsgrader – det vil sige vælge én handling mellem flere alternativer.

Her er det vigtigt at slå fast, at en nok så intelligent computer eller robot altid vil være begrænset af den krop eller det materiel, den har adgang til at kontrollere. I princippet ville man allerede i dag kunne lave en bevæbnet robot, som angriber alle levende væsener omkring sig. Men er der risiko for, at en sådan dræberrobot pludselig kommer ud af kontrol og nægter at lade sig fjernstyre eller slukke? Dertil er vi trods alt overhovedet ikke nået. Praktiske problemer som genopladning af batteri, reparation hvis den går i stykker, smøring af kuglelejer med mere gør, at robotten ikke ville kunne klare sig alene i længden.

Faren, for at robotter og systemer med kunstig intelligens bliver aggressive over for mennesker, er således mindre bekymrende, end det faktum, at teknologien grundlæggende er ligeglad med mennesker. Det er derfor mere spørgsmålet om, hvordan vi som mennesker bruger teknologien, der kan være bekymrende.

Forskningen inden for kunstig intelligens udvikler sig hele tiden, og evnen til at lære har fra starten været forbundet med intelligens. Hvis vi skaber et computerprogram, som vi indsætter i en sofistikeret robotkrop, som ligner et menneske, og hvis dette computerprogram over tid lærer og udvikler sig så meget, at vi på et tidspunkt ikke længere kan skelne robottens adfærd fra et rigtigt menneskes, er det så stadig bare et computerprogram? Eller er det en bevidsthed? Og betyder dét i øvrigt overhovedet noget, så længe vi ikke kan se forskel?

Forskningen er stadig meget langt fra at nå det punkt, hvor maskiner tænker på samme måde som mennesker. Men man vil kunne skabe en robot, som i en helt konkret og i en afgrænset sammenhæng vil kunne bringe dig i tvivl.