Anthropic, een naar eigen zeggen ontwikkelaar van betrouwbare, interpreteerbare en bestuurbare AI-systemen, heeft een soort grondwet voor AI geformuleerd. Deze grondwet bestaat uit een set regels waaraan het bedrijf zich wil houden bij de ontwikkeling van de eigen chatbot genaamd Claude. Maar de regels die zijn opgesteld, zouden ook voor andere ontwikkelaars houvast kunnen bieden, vooropgesteld dat ze ethisch en maatschappelijk verantwoord te werk willen gaan bij hun ontwikkelactiviteiten.

De initiatiefnemers achter Anthropic zijn voormalige medewerkers van OpenAI. Ze zijn voorstander van ‘verantwoorde AI’ en laten zich bij hun ontwikkelwerk leiden door de Universele declaratie van de Rechten van de Mens. Zo willen ze geen gebruik maken van krachten uit lagelonenlanden om de output van de chatbot te controleren en corrigeren.

De regels die Anthropic heeft opgesteld, zijn daarnaast gebaseerd op richtlijnen van Apple en Deepmind. De combinatie leidt tot een lange lijst van regels (in de afbeelding een kleine selectie) die steeds opnieuw steekproefsgewijs worden losgelaten op de chatbot, om te toetsen of de chatbot er nog aan voldoet. (Anthropic)

Technologie