Nykyään yleisestä tekoälystä (AGI) on tullut keskeinen avainsana sekä tiede- että teollisuusyhteisöissä. Vain muutama vuosi sitten monet uskoivat, että AGI:n saavuttaminen kestäisi vähintään 10–50 vuotta, tai jopa piti sitä mahdottomana. Nykyään tällaiset pessimistiset näkemykset ovat harvinaisia. Kuitenkin verrattuna yleisön innostukseen tästä teknologisen muutoksen aallosta, monet AI-alan etulinjatutkijat ja alan johtajat uskovat, että nykyisen tekoälyn kehittymiseen AGI:ksi on vielä pitkä matka.
Qi Yuanin, Fudanin yliopiston ansioituneen professorin, Shanghain tekoälyn tutkimuslaitoksen (SAIRI) johtajan ja Trustworthy Large Model Companyn "Infinite Lightyear" perustajan, mukaan "Yksi AGI:n korkeimmista ilmenemismuodoista on tuntemattoman löytäminen. Yksinkertaisesti sanottuna sen pitäisi olla "AI Einstein". Tämä edellyttää, että luomme "harmaan laatikon" luotettavia suuria malleja, jotka yhdistävät "mustan laatikon" todennäköisyysennusteet "valkoisen laatikon" loogiseen päättelyyn ja edistämme perustutkimusta, lahjakkuuksien kasvatusta ja käytännön sovelluksia teknologian ja teollisuuden syvän integroinnin kautta innovatiivisen ekosysteemin rakentaminen tieteellistä älykkyyttä varten."
Äskettäisessä vuoden 2024 Maailman tekoälykonferenssissa (WAIC) ja tekoälyn maailmanlaajuisessa korkean tason kokouksessa SAIRI isännöi onnistuneesti temaattista foorumia nimeltä "Tekoäly: Paradigman muutos tieteellisessä tutkimuksessa ja teollisessa kehityksessä". Tämä oli tämän uuden tutkimuslaitoksen ensimmäinen esiintyminen WAICissa. SAIRIa voidaan pitää mallina Shanghain innovaatiovetoisen "1+1+N" tieteellisen älykkyyden ekosysteemin tutkimiselle. Tässä mallissa SAIRI on keskeinen keskus, joka on vastuussa yleisestä strategisesta suunnittelusta, resurssien integroinnista ja avainteknologian tutkimuksesta ja innovaatiosta yhteistyössä toisen "1" Fudanin yliopiston ja useiden "N" yliopistojen, tutkimuslaitosten, teknologiayritysten, innovaatioryhmien, ja sijoituslaitokset edistämään yhdessä tieteellistä tutkimusta, lahjakkuuksien kasvatusta, teknologian siirtoa sekä teollista innovaatiota ja parantamista.
AGI-standardin pitäisi olla "AI Einsteinin" luominen.
Teknisestä näkökulmasta, johtavatko yhä suuremmat mallit, joissa on enemmän parametreja, AGI:hen? Toistaiseksi, ei itse tekoälytekniikan tai energiankulutuksen näkökulmasta katsottuna, suuret Transformer-autoregressiiviseen arkkitehtuuriin perustuvat mallit eivät ole riittäviä johtamaan AGI:hen. Tekoälyn on kehitettävä uusia "harmaan laatikon" luotettavia suuria malleja. Tämä johtopäätös perustuu Qi Yuanin vuosien käytännön kokemukseen sekä korkeakouluissa että teollisuudessa.
Kymmenen vuotta sitten ajatuksen "tehdä tekoälystä käyttökelpoiseksi" Qi Yuan johti tiimiä kasvattamaan Alibaban koneoppimisjärjestelmän ydintä ensimmäistä kertaa 2 miljoonasta useisiin satoihin miljooniin parametreihin, mikä paransi merkittävästi yrityksen suorituskykyä ja demonstroi tietojen, algoritmien ja suunnitteluominaisuuksien integroitua muuntamista. Tämä on juuri skaalauslain ilmentymä, josta keskustellaan laajasti tekoälyyhteisössä nykyään.
Qi Yuan muistelee, että tiimi todellakin maisti skaalauslain makeutta: malliparametrien satakertaistumisen jälkeen kokonaisvaikutus parani dramaattisesti. "Mutta nyt ajattelen: miksi emme tehneet tekoälymalleista vielä suurempia silloin? Miksi lopetimme, kun olisimme voineet ottaa askeleen pidemmälle?" hän sanoi. "Edes miljardit parametrit suurissa malleissa eivät riitä, meidän on siirryttävä kohti satoja miljardeja, biljooneja tai jopa enemmän. Tuolloin sekä tiedemaailmalta että teollisuudelta puuttui laskentateho, ja jopa teollisuudessa saavutettiin niin korkea. laskentateho vaati erittäin korkeita kustannuksia, akateemisesta maailmasta puhumattakaan."
Qi Yuan selittää, miksi AGI:n standardina pitäisi olla "AI Einsteinin" luominen, koska sen on oltava sekä tehokas että älykäs. Ensinnäkin Einstein löysi "1900-luvun alun fysiikan pilvet" muutaman avaintietopisteen kautta. AGI:n tulisi myös pystyä löytämään ja ymmärtämään monimutkaisen maailman tuntemattomat lait. Nykyiset suuret mallit eivät kuitenkaan pysty tähän. Esimerkiksi, vaikka visuaalinen iso malli SORA simuloi fyysistä maailmaa ennennäkemättömässä määrin, se rakentaa silti kolmiulotteisen maailman kaksiulotteisen maailman simulaation pohjalta eikä ole kaukana fyysisen maailman täydellisestä ymmärtämisestä. Toiseksi on kysymys virrankulutuksesta. Ihmisaivot toimivat noin 15 watilla, kun taas yksi grafiikkasuoritin voi saavuttaa useita satoja wattia, puhumattakaan tuhansien tai kymmenien tuhansien GPU-ryhmistä, joita tarvitaan yleisten suurten mallien kouluttamiseen. Tällä hetkellä, jos jatkamme olemassa olevien arkkitehtuurien käyttöä, tarvittava virrankulutus olisi tähtitieteellistä, mikä vaikeuttaisi tehokkaan ja älykkään tavoitteen saavuttamista.
"AI Einstein" on myös AI for Sciencen (AI4S) keskeinen tavoite. Tieteellisellä älykkyydellä on ollut tärkeä rooli tunnettujen fysikaalisten yhtälöiden ratkaisun nopeuttamisessa, mutta sen on myös yhdistettävä tunnetut säännöt tietoon vähentääkseen vakavaa riippuvuutta tiedoista ja laskentatehosta, parantaakseen päättelyn ja ennusteen tarkkuutta sekä ehdottaa uusia tieteellisiä teorioita. perustuu tietoihin mukautettuihin tietosääntöihin. Tämä on linjassa Qi Yuanin pitkän aikavälin tavoitteen kanssa Fudanin yliopistossa ja SAIRIssa - käyttää tekoälyä monimutkaisen maailman ymmärtämiseen ja tuntemattomien lakien löytämiseen.
"Harmaa laatikko" luotettavat pystysuuntaiset suuret mallit antavat voimaa useille aloille.
Mitä ongelmia on ratkaistava, jotta suurista malleista tulisi uusia tuotantovoimia tekoälytyökalujen avulla? Qi Yuanin mukaan suuri malliteollisuus kohtaa monia yhteisiä haasteita, mikä vaikeuttaa teknologian, tuotteiden ja markkinoiden tarpeiden yhdenmukaistamista.
"Suurin ongelma suuren mallin toteutuksessa nykyään on, että se näyttää ensi silmäyksellä hyödylliseltä, mutta epäonnistuu käytännössä", Qi Yuan selittää. Nykypäivän suuret kielimallit ennustavat ensisijaisesti seuraavan sanan useiden edeltävien sanojen perusteella, mutta tämä lähestymistapa ei sovellu tiukkaan monivaiheiseen päättelyyn. "Kieli on väline kommunikointiin, ei ajatteluun." Äskettäin instituutioiden, mukaan lukien MIT, julkaisema artikkeli akateemisessa huippulehdessäLuontohuomautti, että kieli on voimakas väline kulttuurisen tiedon välittämiseen, ja se on saattanut kehittyä yhdessä ajattelu- ja päättelykykyjemme kanssa, mikä heijastaa ihmisen kognition monimutkaisuutta. Kieli ei kuitenkaan synnytä päättelyn monimutkaisuutta.
Olemassa olevien suurten mallien epäluotettavuuden, alhaisen tulkittavuuden ja korkeiden kustannusten ratkaisemiseksi tehokas ratkaisu on yhdistää todennäköisyyspohjainen hermoverkkopäättely loogiseen symboliseen laskemiseen, joka on samanlainen kuin julkaisussa kuvatun nopean vaistoon perustuvan ajattelun ja hitaan loogiseen päättelyyn perustuvan ajattelun yhdistelmä. Nobel-palkitun Daniel Kahnemanin kirjaAjatteleva, nopea ja hidas. "Tätä voidaan kutsua "harmaaksi laatikoksi" suureksi malliksi, Qi Yuan uskoo. Symbolisen laskennan yhdistäminen neuroverkkoihin "harmaassa laatikossa" luotettavassa suuressa mallissa voi vähentää tekoälyn "hallusinaatioita" ja ratkaista ammatillisia ongelmia vertikaalisilla aloilla, mikä vahvistaa eri toimialoja ja vapauttaa suurten mallien tuottavuutta.
Mikä on "harmaa laatikko" luotettava iso malli? "Alun perin syväoppimista pidettiin "mustana laatikona". Nyt kun yhdistämme loogisen päättelyn syvään oppimiseen, meillä on "harmaa laatikko", Qi Yuan selittää. "Alkuperäinen "musta laatikko" jätti ihmiset tietämättömiksi prosessista, jolla data tuotti tuloksia, kun taas "harmaan laatikon" suuri malli loogisen päättelyn avulla antaa ihmisille mahdollisuuden "tietää sekä tulokset että niiden taustalla olevat syyt". Toisesta näkökulmasta katsottuna suuret "harmaat laatikot" -mallit voivat käyttää syväoppimista vähentämään sääntöjä, jotka eivät ole todellisen havaitun datan mukaisia."
Qi Yuan toteaa, että jotta tekoäly voisi olla keskeisessä asemassa monimutkaisissa skenaarioissa eri toimialoilla – olipa kyse sitten rahoituksesta ja vakuutusalasta, tuulivoimasta ja energiasta tai meriliikenteestä ja lääketeollisuudesta – on välttämätöntä yhdistää systemaattinen alan tieto, päättelylogiikka ja päätöksentekokyky. -mekanismeja suurilla malleilla. Suuri "harmaa laatikko" -malli ei ole vain AGI:n suunta, vaan myös tehokas työkalu syvälle pystysuoraan kenttään tunkeutumiseen ja aidosti todellisten ongelmien ratkaisemiseen. "Teollisuuden näkökulmasta tämä ymmärrys on erittäin intuitiivinen", Qi Yuan havainnollistaa. Lääkäreiden ei tarvitse ryhtyä lakimiehiksi, eikä lakimiesten tarvitse tulla sijoitusasiantuntijoiksi. Jokaisen ammattiroolin tulee keskittyä omaan alaansa ja tehostaa tuottavuustyökalujaan. Teknisestä näkökulmasta katsottuna, jos suuri malli oppii liikaa epäolennaisia tehtäviä, se voi kokea "katastrofaalisen unohtamisen". Jos Li Bai esimerkiksi käyttäisi kaiken aikansa kirjanpitoon runojen kirjoittamisen sijaan, hänen runollinen inspiraationsa voisi vähitellen haihtua. "Olemme jo havainneet, että opetettaessa suuria malleja vertikaalisille toimialueille, jos malli oppii liian monia toisiinsa liittymättömiä toimintoja, se voi häiritä sen alkuperäisiä ominaisuuksia. Siksi tehokkaiden "harmaiden laatikoiden" suurten mallien kehittäminen vertikaalisille alueille on erittäin arvokasta teollisuudessa. toteutus."
"Uskon, että "harmaiden laatikoiden" suurilla malleilla tulee olemaan yhä tärkeämpi rooli tiellä AGI:hen ja vertikaalisten toimialojen toteuttamisessa. Bayesilaisesta metodologisesta näkökulmasta se yhdistää tuntemamme tietomme datan piilotettuun tietoon löytääkseen uusia lakeja. ja ratkaista tieteellisiä ja teollisia ongelmia", Qi Yuan toteaa. Tulevaisuudessa "AI Einstein" voisi olla myös "AI Buffett".
Innovaatioketjun yhdistäminen ja tieteellisen älykkyyden innovaatioekosysteemin rakentaminen.
Tämän vuoden maailman tekoälykonferenssissa Qi Yuanin tiimi lanseerasi luotettavia taloudellisia ja lääketieteellisiä suuria malleja, joissa on satoja miljardeja parametreja. Nämä pystysuuntaiset suuret mallit ylittivät OpenAI:n biljoonaparametrisen mallin GPT-4 Turbo testauksessa ja kiinnittivät jälleen alan huomion suurten mallien käyttöönottoon.
"Tämän päivän tekoälyn läpimurtoja ohjaavat paitsi innovaatioiden taustalla olevat periaatteet, myös tuotelähtöiset lähestymistavat, jotka vastaavat yhteiskunnan tarpeisiin. Yhteiskunta edellyttää teoreettisten julkaisujen tai liiketoimintamalliinnovaatioiden julkaisemisen lisäksi myös teknologisten ja teollisten innovaatioiden syvällistä integrointia. Ensimmäiset periaatteet Kun nämä kaksi elementtiä yhdistetään, voimme saavuttaa sinisempiä vesiä", Qi Yuan sanoo.
Akateemisella yhteisöllä ja teollisuudella on erilaiset tehtävät. Akateeminen maailma tutkii uusia ilmiöitä, kun taas teollisuus ratkaisee ensisijaisesti käytännön ongelmia. Yleinen ongelma maailmanlaajuisesti on, että tutkimuslaitosten on puututtava moniin teknologisiin innovaatioongelmiin, mutta jos ne jättävät huomiotta tuotteistamisen ja yhteiskunnalliset tarpeet, ne kohtaavat kaksi puutetta: todellisen kilpailupaineen puute, joka estää innovatiivisten teknologioiden jalostamisen, ja tehokkaan teknologian puuttuminen. markkinoilta saatu palaute teknologisen tutkimuksen ohjaamiseksi.
Tätä varten Qi Yuan on pitkään pyrkinyt yhdistämään innovaatioketjun "yliopistot-tutkimuslaitokset-startupit" luodakseen hyvän innovaatioekosysteemin, joka ottaa huomioon sekä taustalla olevan teknologian että markkinoiden tarpeet. Tuotesuunnan tulee ohjata markkinoiden kysyntää ja skenaarioita, rakentaa tuotteen ydinkilpailukykyä perustavanlaatuisen innovaation kautta.
Vuonna 2023 perustettu SAIRI on sitoutunut alkuperäisiin AI for Science -innovaatioihin, joissa yhdistyvät tieto ja data. SAIRI lanseerasi äskettäin Fuxi-sarjan suuria meteorologisia malleja 2.0 uusien energia-, vakuutus- ja kaupunkihallinnon sovelluksiin ja aloitti Smart Meteorological Innovation Ecosystem Alliancen. Tämän allianssin tavoitteena on edistää asteittain Fuxi-sarjan meteorologisten suurten mallien 2.0 teollista käyttöä. "Harmaan laatikon" luotettavat suuret mallit etenevät myös tuotetoteutuksissa, ja Qi Yuanin perustama luotettava iso malliyritys Infinite Lightyear on jo perustettu.
Tieteellisen älykkyyden innovaatioekosysteemin edistämiseksi edelleen toinen World Scientific Intelligence Competition, jonka SAIRI ja Fudanin yliopisto järjestävät yhdessä ja jota ohjaavat useat osastot, mukaan lukien Shanghain tiede- ja teknologiakomitea, Shanghain kehitys- ja uudistuskomissio, Shanghain talous- ja tietotekniikkakomitea, ja Shanghain koulutuskomitea on käynnistetty. Kilpailu tarjoaa miljoonia palkintoja maailmanlaajuisten osallistujien värväämiseksi tutkimaan tieteellisen älykkyyden rajoja. Lisäksi SAIRI on kehittänyt multimodaalista tieteellistä dataa kattavan tieteellisen tietoalustan, joka tukee koko ketjua tiedonkeruusta ja käsittelystä hallintaan ja mallintamiseen varmistaen tehokkaan tietojenkäsittelyn, luotettavuuden ja suojatun viestinnän. Tämän alustan pohjalta SAIRI ja sen kumppanit ovat rakentaneet useita korkealaatuisia tieteellisiä tietokokonaisuuksia biotieteisiin, materiaalitieteisiin, ilmakehätieteisiin ja muille aloille, jotka tarjoavat arvokkaita resursseja tieteellisen älykkyyden tutkimukseen. Lisäksi SAIRI on perustanut Global Scientific Data Ecosystem Alliancen, jonka ensimmäisiä jäseniä ovat muun muassa China Telecom Corporation, COSCO Shipping Insurance Captive, Shanghai Lingang New Area Cross-Border Data Technology ja yli kymmenen muuta yhteisöä. Allianssin tavoitteena on rakentaa globaali, monialueinen tutkimus big data -resurssien avoin ja jakamisalusta yhteistyössä hallituksen, yritysten, yliopistojen ja tutkimuslaitosten kanssa.
"Meidän ei pidä innovoida tieteellisessä tutkimuksessa tai teollisuudessa innovaatioiden vuoksi. Toivomme rakentavamme tulevaisuuden AGI:ta ja sovelluksia, jotka ratkaisevat todellisia ongelmia", Qi Yuan sanoo.