Britse AI-onderneming Faculty ontwikkelt militaire drone-technologie ondanks ethische bezwaren
Key takeaways Achtergrond Een in het Verenigd Koninkrijk gevestigd AI-bedrijf met nauwe banden met overheidsinstanties ontwikkelt kunstmatige intelligentie technologie voor militaire drones. Dit bedrijf, Faculty AI, heeft in het verleden samengewerkt
Key takeaways
- Faculty AI, een bedrijf uit het Verenigd Koninkrijk, ontwikkelt kunstmatige-intelligentietechnologie voor militaire drones.
- Het bedrijf heeft nauwe banden met overheidsinstanties en richt zich op het doorverkopen van bestaande modellen van OpenAI en levert adviesdiensten over de implementatie ervan binnen de overheid en industriesectoren.
- Ondanks zorgen over de ethische implicaties van autonome wapensystemen, benadrukt Faculty AI zijn toewijding aan verantwoorde AI-ontwikkeling en -toepassing binnen de defensiesector.
Achtergrond
Een in het Verenigd Koninkrijk gevestigd AI-bedrijf met nauwe banden met overheidsinstanties ontwikkelt kunstmatige intelligentie technologie voor militaire drones. Dit bedrijf, Faculty AI, heeft in het verleden samengewerkt met de NHS, veiligheidsinstanties van de overheid en heeft zelfs deelgenomen aan gegevensanalyses voor de Vote Leave-campagne tijdens het Brexit-referendum.
Faculty AI onderscheidt zich van andere prominente AI-bedrijven zoals OpenAI of Deepmind doordat het geen eigen modellen maakt. In plaats daarvan richt het zich op het doorverkopen van bestaande modellen, met name die van OpenAI, en het leveren van adviesdiensten over de implementatie ervan binnen de overheid en industriesectoren. Nadat het veel aandacht had gekregen voor zijn werk met de Vote Leave-campagne, sleepte Faculty AI tijdens de pandemie nog meer overheidscontracten in de wacht via connecties met de voormalige adviseur van Boris Johnson, Dominic Cummings.
Samenwerking en controverse
Het bedrijf, dat officieel bekend staat als Faculty Science, was betrokken bij het testen van AI-modellen voor het onlangs opgerichte AI Safety Institute (AISI) van de Britse overheid. Dit instituut werd opgericht onder voormalig premier Rishi Sunak om de veiligheidsimplicaties van de snel oprukkende kunstmatige intelligentie aan te pakken.
Faculty AI’s samenwerking met Hadean, een Britse startup gespecialiseerd in AI-gestuurde simulaties, benadrukt de betrokkenheid bij de ontwikkeling van toepassingen voor militaire drones. Hun samenwerking richt zich op gebieden zoals objectidentificatie, het volgen van bewegingen en het verkennen van autonome zwermmogelijkheden. Hoewel Faculty AI beweert dat hun werk met Hadean geen betrekking had op het richten van wapens, blijven ze geheimzinnig over andere potentiële defensieprojecten waarbij dodelijk geweld of autonome drone-systemen betrokken zijn.
Een verbintenis met ethiek en regelgeving
Ondanks de geheimzinnigheid rond sommige aspecten van zijn werk, benadrukt Faculty AI zijn toewijding aan ethische AI-ontwikkeling en zijn decennialange ervaring met AI-veiligheidsinitiatieven, waaronder initiatieven gericht op het bestrijden van seksueel misbruik van kinderen en terrorisme. Het bedrijf stelt dat het door zijn expertise het vertrouwen heeft gewonnen van overheden en modelontwikkelaars om te zorgen voor verantwoorde AI-ontwikkeling en -toepassing binnen de defensiesector.
Groeiende bezorgdheid over de ethische implicaties van autonome wapensystemen hebben echter geleid tot oproepen tot voorzichtigheid van zowel experts als politici. Sommigen pleiten voor internationale verdragen of overeenkomsten om het gebruik van dodelijke drones te reguleren, terwijl anderen een volledig verbod op autonome wapensystemen voorstellen. De voortdurende samenwerking van Faculty AI met AISI plaatst het bedrijf in een centrale positie om invloed uit te oefenen op het beleid van de Britse overheid met betrekking tot de ontwikkeling en inzet van AI binnen het leger.
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
Verwant
Deel deze pagina
Gastberichten door Easy Branches
