Tekoälymallien tarkastus riippuu siitä, mitä yritykset antavat…

Tekoälymallien riippumaton arviointi on ollut haastavaa, koska mallit ovat arvokkaita ja niiden jakaminen ulkopuolisille sisältää riskejä. OpenAI on sallinut testauksen, mutta tulokset riippuvat siitä, mitä tietoa yritys päättää jakaa.

Kaksoissokkotestaus suojaa molempia osapuolia

Google DeepMind toteutti elokuussa maailman ensimmäisen kaksoissokkotestin tekoälymallille yhdessä Singaporen tekoälyturvallisuusinstituutin ja kolmen muun ulkopuolisen ryhmän kanssa. Testi suoritettiin suljetulla laitteistolla, jolloin ulkopuoliset eivät nähneet mallia eikä Google saanut tietoa kysymyksistä. Molemmat osapuolet voivat tarkistaa matemaattisesti, että aineisto pysyi yksityisenä.

Laitteiston turvallisuus keskiössä

Menetelmä siirtää luottamuksen laitteistoon. Tutkijat ovat aiemmin onnistuneet murtamaan vastaavaa suljettua laitteistoa alle tuhannen dollarin välineillä, mutta murto vaati fyysisen pääsyn palvelimeen. Riski on hallittavissa huolellisella laitteiston hallinnalla.

Pähkinänkuoressa

• Kaksoissokkotestaus mahdollistaa mallin arvioinnin ilman, että kumpikaan osapuoli näkee toisen aineistoa.
• Mallin jakaminen ulkopuolisille on turvallisuusriski, koska malli on suuri numeerinen tiedosto.
• Laitteiston fyysinen suojaus on keskeinen osa uutta testausmenetelmää.

UKK – useimmin kysytyt

Mikä on kaksoissokkotestaus tekoälyssä?

Menetelmä, jossa sekä malli että testikysymykset pysyvät salassa molemmilta osapuolilta suljetun laitteiston avulla.

Miksi mallin jakaminen on riskialtista?

Mallin kopio antaa haltijalle täyden pääsyn malliin, jonka tuottaminen voi maksaa yli 100 miljoonaa dollaria.