Recursiven toimitusjohtaja Richard Socher paljasti Slushissa, ettei heillä ole käytössään tappokytkintä (engl. killswitch). Recursive on tekoäly-yhtiö, joka kehittää itseään parantavaa supertekoälyä.
Tappokytkimellä tarkoitetaan välinettä, jolla tekoäly voitaisiin sulkea nopeasti sellaisessa tilanteessa, jossa se muuttuisi vaaralliseksi tai sitä olisi mahdotonta hallita.
Socheria Slushissa haastatteli Moritz Baier-Lentz, joka on toiminut sijoittajana ja neuvonantajana useissa merkittävissä teknologiayhtiöissä, kuten Open AI ja SpaceX.
Keskustelun alussa Baier-Lentz totesi torstain olevan poikkeuksellinen päivä kahdesta syystä.
Ensinnäkin päivä on suuri tekoälyalalle, koska tekoälyä kehittävä Anthropic-yhtiö listautuu pörssiin. Yhtiön osakkeen aloitushinta kerrotaan tänään, ja sen osakkeilla päästään käymään kauppaa myöhemmin saman päivän aikana.
– Mutta tänään on tärkeä päivä myös ihmisen älykkyyden kannalta, sillä GTA VI julkaistiin tänään.
Baier-Lentz muistuttaa, että kyseessä on suositun pelisarjan kuudes osa. Huomionarvoista on myös se, että pelin tekemisessä ei ole käytetty lainkaan tekoälyä. Uutuuspeli on saanut erinomaisia arvioita.
Baier-Lentz sanoi saavutuksen olevan ”kunnianosoitus ihmisen kyvylle kehittyä”.
– Ihmiskunta porskuttaa edelleen.
Suuret yhtiöt liian kankeita
Socher kertoo perustaneensa oman yrityksensä siksi, että suurten teknologiayhtiöiden sisäiset rakenteet voivat hidastaa teknologian kehittämistä.
Socherin mukaan vakiintuneiden yritysten voi olla vaikea viedä läpi radikaaleja muutoksia, vaikka niiden sisällä olisi jo osaamista ja hankkeita niiden toteuttamiseen.
Hän huomauttaa, ettei tutkijoilla välttämättä ole kannustinta kehittää järjestelmää, joka voisi lopulta tehdä heidän oman työnsä itsenäisesti.
Hänen mukaansa vastaavien esteiden vuoksi rekursiivisen itsensä kehittämisen kaltaisia hankkeita voi olla helpompi viedä eteenpäin uuden yrityksen sisällä kuin osana jo olemassa olevaa teknologiayhtiötä.
– Jos yrityksessä on tuhansia todella älykkäitä tutkijoita, heistä tuskin kukaan ajattelee vuoden alussa, että pyytäisi tekoälyään tekemään itseään parempaa tekoälytutkimusta ja jäisi sitten eläkkeelle, Socher sanoi.
Parantaa itseään itsenäisesti
Socherin mukaan on tärkeää erottaa kaksi eri asiaa: tekoälyn käyttäminen apurina ja tekoäly, joka pystyy itsenäisesti parantamaan itseään.
Alan johtavat yhtiöt, kuten Open AI ja Anthropic, hyödyntävät jo tekoälyä uusien järjestelmien rakentamisessa. Socher kuitenkin huomauttaa, että tällöin ihminen silti ohjaa työtä yhä taustalla.
Socherin visiossa tekoälyn pitäisi pystyä hallitsemaan koko tutkimusprosessi itsenäisesti. Tekoäly alkaisi parantaa omaa toimintaansa toistuvasti ja täysin itsenäisesti ilman ihmisen apua.
Socherin mukaan pidemmällä aikavälillä samaa lähestymistapaa voitaisiin soveltaa myös muihin tieteenaloihin, kuten biologiaan, kemiaan, fysiikkaan ja neurotieteisiin.
Keskustelun lopuksi Baier-Lentz kysyi Socherilta, onko heillä käytössään tappokytkintä.
– Onko Recursivella niin sanottua tappokytkintä? Millainen tilanne saisi sinut käyttämään sitä?
– Uskon, että jos ajattelet tarvitsevasi tappokytkintä, moni asia on jo mennyt pahasti pieleen ennen kuin pääset siihen tilanteeseen.
– Meillä ei siis vielä ole tappokytkintä, Socher paljasti.