Tekoälyauditoijat näkevät vain yritysten jakaman aineiston

Tekoälymallien riippumaton testaus on ollut hankalaa, koska mallit ovat arvokkaita ja niiden jakaminen ulkopuolisille sisältää tietoturvariskejä. OpenAI on sallinut testauksen, mutta käytännössä auditoijat näkevät vain sen, mitä yritys haluaa näyttää.

Mallien jakaminen tuo turvallisuusriskin

Koulutettu tekoälymalli on suuri lukujono, jonka tuottaminen voi maksaa yli 100 miljoonaa dollaria. Mallin kopion luovuttaminen ulkopuolisille altistaa sen väärinkäytölle. Tämän vuoksi testaajat ovat joutuneet valitsemaan kahden vaihtoehdon välillä: joko he luovuttavat kysymyksensä etukäteen tai yritys luovuttaa mallinsa.

Kaksoissokkotestaus suljetulla laitteistolla

Elokuussa Google DeepMind järjesti Singaporen tekoälyturvallisuusinstituutin ja kolmen muun ulkopuolisen tahon kanssa maailman ensimmäisen kaksoissokkotestin tekoälymallille. Testi suoritettiin suljetulla laitteistolla, jolloin ulkopuoliset testaajat eivät nähneet mallia eikä Google nähnyt kysymyksiä. Molemmat osapuolet voivat matemaattisesti varmistaa, että aineisto pysyi yksityisenä.

Laitteiston turvallisuus vaatii huomiota

Menetelmä siirtää luottamuksen laitteistoon. Tutkijat ovat aiemmin onnistuneet murtamaan vastaavaa suljettua laitteistoa alle tuhannen dollarin välineillä, kun fyysinen pääsy palvelimeen on ollut mahdollista. Ongelma on kuitenkin hallittavissa rajoittamalla laitteiden käyttöoikeuksia.

Pähkinänkuoressa

• Yritykset rajoittavat mallien jakamista tietoturvasyistä.
• Kaksoissokkotestaus mahdollistaa mallin arvioinnin ilman suoraa pääsyä.
• Laitteiston suojaus on keskeinen osa uuden menetelmän luotettavuutta.

UKK – useimmin kysytyt

Miksi tekoälymalleja ei luovuteta suoraan auditoijille?

Mallit ovat kalliita tuottaa ja niiden kopioiden jakaminen sisältää tietoturvariskejä.

Mitä kaksoissokkotestaus tarkoittaa käytännössä?

Testi suoritetaan suljetulla laitteistolla, jolloin kumpikaan osapuoli ei näe toisen aineistoa.