Russische wetenschappers betwijfelen of kunstmatige intelligentie onvoorwaardelijk kan worden vertrouwd

Een zeer belangrijk onderwerp met betrekking tot kunstmatige-intelligentietechnologieën werd besproken tijdens het laatste presidium van de Russische Academie van Wetenschappen. Dus probeerden wetenschappers tijdens de discussie te begrijpen in hoeverre je kunstmatige intelligentie (AI) kunt vertrouwen en waar de grens is waarlangs een persoon zelf een beslissing moet nemen.

Geloof het of niet kunstmatige intelligentie

Dus, volgens de president van de Russische Academie van Wetenschappen A. Sergeeva, AI is een zogenaamde "black box" waarvan zelfs de makers zelf niet helemaal begrijpen hoe het werkt. En dus rijst een heel logische vraag: is het mogelijk om de conclusies van AI te vertrouwen als we de reeks gevolgtrekkingen van deze 'machine' niet kunnen traceren?

Sterker nog, kunstmatige intelligentie doet al een vrij groot aantal operaties beter en sneller dan mensen.

En het is misschien verleidelijk om de wetenschap in principe los te laten, omdat een specialist met gemiddelde competentie bepaalde taken kan instellen en antwoorden uit AI kan lezen.

Maar alleen bij volledig en willekeurig vertrouwen in AI-oplossingen kun je een sterk vertekend beeld krijgen, dat behoorlijk duur kan zijn.

Het punt is dat een persoon te geneigd is om technologie te vertrouwen, maar met kunstmatige intelligentie is alles veel gecompliceerder. Het punt is dat de mensheid nog steeds niet volledig kan verklaren hoe het menselijk brein werkt.

En op dezelfde manier is er geen begrip van hoe AI werkt, die is gebouwd naar analogie met het menselijk brein. Inderdaad, neurale netwerken zijn gebaseerd op een vrij eenvoudige vergelijking van één neuron.

Maar alleen in het geval dat er bijvoorbeeld 600 miljard van dergelijke componenten tegelijk bij het werk betrokken zijn, kan absoluut niemand met zekerheid zeggen welke verbindingen in het neurale netwerk worden gevormd.

Bovendien merkten de wetenschappers op dat naarmate neurale netwerken zich ontwikkelen, er steeds meer nadelen worden gevonden. In het begin leert AI immers van miljoenen verschillende voorbeelden.

Maar vaak, zelfs met een kleine afwijking van de parameters die tijdens de training zijn "geleerd", begint het systeem onjuiste resultaten te geven.

Een nogal treffend voorbeeld is dus een neuraal netwerk gecreëerd door IBM, dat doelbewust is gecreëerd voor medische behoeften. Het bleek dus dat de IBM AI diagnoses stelt op het niveau van een redelijk gemiddelde arts. Dit betekent dat hoewel AI-technologieën het mogelijk maken om slimme systemen te creëren, ze verre van perfect zijn.

En ter afsluiting van de discussie kwamen de wetenschappers tot de conclusie dat het, gezien de steeds groeiende trend in de ontwikkeling en het gebruik van kunstmatige intelligentie, gewoon noodzakelijk is om een ​​zekere analoog van GOST, die het mogelijk maakt om AI pas volledig te gebruiken nadat het systeem een ​​hele reeks controles heeft doorstaan, en wetenschappers zijn ervan overtuigd dat AI niet zal presteren fouten.

Schrijf in de reacties hoe jij persoonlijk denkt over het gebruik van AI in het dagelijks leven. Als je het materiaal leuk vond, beoordeel het dan en vergeet je niet te abonneren op het kanaal. Dank u voor uw aandacht!