Pag-demystify sa Black Box ng AI: Ariana Spring at Andrew Stanco sa Kung Paano Magagawa ng Blockchain Tech ang Liwanag sa Mga Nakatagong Input

Bahagi ng magic ng Generative AI ay ang karamihan sa mga tao ay walang ideya kung paano ito gumagana. Sa isang tiyak na antas, kahit na makatarungang sabihin iyon walang ONE ay lubos na sigurado kung paano ito gumagana, dahil ang mga panloob na gawain ng ChatGPT ay maaaring magpabaya sa pinakamaliwanag na siyentipiko. Ito ay isang itim na kahon. Hindi kami lubos na sigurado kung paano ito sinanay, kung aling data ang gumagawa ng mga resulta, at kung anong IP ang tinatapakan sa proseso. Ito ay parehong bahagi ng magic at bahagi ng kung ano ang nakakatakot.

Ariana Spring ay isang tagapagsalita sa Consensus festival ngayong taon, sa Austin, Texas, Mayo 29-31.

Paano kung mayroong isang paraan upang sumilip sa loob ng itim na kahon, na nagbibigay-daan sa isang malinaw na visualization kung paano pinamamahalaan at sinanay at ginawa ang AI? Ito ang layunin — o ONE sa mga layunin — ng EQTY Lab, na nagsasagawa ng pananaliksik at gumagawa ng mga tool upang gawing mas transparent at collaborative ang mga modelo ng AI. EQTY Lab's Lineage Explorer, halimbawa, ay nagbibigay ng real-time na view kung paano binuo ang modelo.

Ang lahat ng mga tool na ito ay sinadya bilang isang pagsusuri laban sa opacity at sentralisasyon. "Kung T mo maintindihan kung bakit ginagawa ng AI ang mga desisyon na ginagawa nito o kung sino ang may pananagutan, talagang mahirap tanungin kung bakit ibinuga ang mga nakakapinsalang bagay," sabi ni Ariana Spring, Head of Research sa EQTY Lab. "Kaya sa tingin ko ang sentralisasyon - at ang pag-iingat ng mga lihim na iyon sa mga itim na kahon - ay talagang mapanganib."

Kasama ng kanyang kasamahan na si Andrew Stanco (pinuno ng Finance), ibinahagi ni Spring kung paano makakalikha ang Crypto ng mas transparent na AI, kung paano na-deploy na ang mga tool na ito sa serbisyo ng agham sa pagbabago ng klima, at kung bakit ang mga open-sourced na modelong ito ay maaaring maging mas inklusibo at kinatawan ng sangkatauhan sa pangkalahatan.

Ang panayam ay pinaikli at bahagyang na-edit para sa kalinawan.

Ano ang pananaw at layunin ng EQTY Lab?

Ariana Spring: Kami ay nangunguna sa mga bagong solusyon upang bumuo ng tiwala at pagbabago sa AI. At ang generative AI ay uri ng HOT na paksa ngayon, at iyon ang pinaka-emergency na ari-arian, kaya iyon ang isang bagay na pinagtutuunan namin ng pansin.

Ngunit tinitingnan din namin ang lahat ng iba't ibang uri ng AI at pamamahala ng data. At ang tunay na pagtitiwala at pagbabago ay kung saan tayo sumasandal. Ginagawa namin iyon sa pamamagitan ng paggamit ng advanced na cryptography para gawing mas transparent ang mga modelo, ngunit collaborative din. Nakikita namin ang transparency at collaboration bilang dalawang panig ng parehong barya ng paglikha ng mas matalino at mas ligtas na AI.

Maaari ka bang magsalita nang kaunti pa tungkol sa kung paano umaangkop ang Crypto dito? Dahil nakikita mo ang maraming tao na nagsasabi na "Ang Crypto at AI ay isang mahusay na akma," ngunit kadalasan ang katwiran ay humihinto sa isang napakataas na antas.

Andrew Stanco: Sa tingin ko ang intersection ng AI at Crypto ay ONE na bukas na tanong, tama ba? Ang ONE bagay na nahanap namin ay ang nakatagong Secret tungkol sa AI ay ang pakikipagtulungan nito; mayroon itong maraming stakeholder. Walang ONE data scientist ang makakagawa ng AI model. Maaari nilang sanayin ito, maaari nilang ayusin ito, ngunit ang cryptography ay nagiging isang paraan ng paggawa ng isang bagay at pagkatapos ay magkaroon ng tamper-proof na paraan ng pag-verify na nangyari ito.

Kaya, sa isang proseso na kasing kumplikado ng pagsasanay sa AI, talagang nakakatulong ang pagkakaroon ng mga tamper-proof at nabe-verify na pagpapatunay — kapwa sa panahon ng pagsasanay at pagkatapos. Lumilikha ito ng tiwala at kakayahang makita.

Ariana Spring: Ang ginagawa namin ay sa bawat hakbang ng ikot ng buhay ng AI at proseso ng pagsasanay, mayroong isang notarization — o isang selyo — ng nangyari. Ito ang desentralisadong ID, o identifier, na nauugnay sa ahente o Human o makina na nagsasagawa ng pagkilos na iyon. Nasa iyo ang timestamp. At sa aming Lineage Explorer, makikita mo na lahat ng ginagawa namin ay awtomatikong nakarehistro gamit ang cryptography.

At pagkatapos ay gumagamit kami ng mga matalinong kontrata sa aming mga produkto ng pamamahala. Kaya kung ang X parameter ay natugunan o hindi natugunan, ang isang partikular na aksyon ay maaaring magpatuloy o hindi magpatuloy. Ang ONE sa mga tool na mayroon kami ay isang Governance Studio, at iyon ay karaniwang nag-program kung paano mo sanayin ang isang AI o kung paano mo mapapamahalaan ang iyong AI life-cycle, at iyon ay makikita sa ibaba ng agos.

Maaari mo bang linawin nang BIT kung anong uri ng mga tool ang iyong ginagawa? Halimbawa, gumagawa ka ba ng mga tool at gumagawa ng pananaliksik na nilalayong tulungan ang iba pang mga startup na bumuo ng mga modelo ng pagsasanay, o ikaw ba ay gumagawa ng mga modelo ng pagsasanay sa iyong sarili? Sa madaling salita, ano nga ba ang tungkulin ng EQTY Labs sa kapaligirang ito?

Andrew Stanco: Ito ay isang halo, sa isang paraan, dahil ang aming pagtuon ay nasa enterprise, dahil iyon ang magiging ONE sa mga unang malalaking lugar kung saan kailangan mong makuha ang AI nang tama mula sa isang pananaw sa pagsasanay at pamamahala. Kung hahanapin mo iyon, kailangan nating magkaroon ng lugar kung saan maaaring i-annotate ng developer—o isang tao sa organisasyong iyon— ang code at sabihing, "Okay, ito ang nangyari," at pagkatapos ay gumawa ng record. Ito ay nakatuon sa negosyo, na may diin sa pakikipagtulungan sa mga developer at sa mga taong bumubuo at nagde-deploy ng mga modelo.

Ariana Spring: At nagtrabaho kami sa pagsasanay sa modelo pati na rin sa pamamagitan ng Endowment para sa Climate Intelligence. Tumulong kami sa pagsasanay ng isang modelo na tinatawag KlimaGPT, na isang modelo ng malaking wika na partikular sa klima. T iyon ang aming tinapay at mantikilya, ngunit dumaan kami sa proseso at ginamit ang aming hanay ng mga teknolohiya upang mailarawan ang prosesong iyon. Kaya naiintindihan namin kung ano ito.

Ano ang pinakanasasabik sa iyo tungkol sa AI, at ano ang pinakanakakatakot sa iyo tungkol sa AI?

Andrew Stanco: Ibig kong sabihin, para sa kasabikan, ang unang sandaling iyon kapag nakipag-ugnayan ka sa generative AI ay parang na-uncorked mo ang kidlat sa modelo. Sa unang pagkakataon na gumawa ka ng prompt sa MidJourney, o na nagtanong ka sa ChatGPT, walang ONE ang kailangang kumbinsihin na marahil ito ay malakas. At T ko naisip na marami pang bagong bagay, di ba?

At tungkol sa takot?

Andrew Stanco: Sa tingin ko ito ay isang alalahanin na marahil ay ang subtext para sa marami sa kung ano ang magiging sa Consensus, mula lamang sa pagsilip sa agenda. Ang alalahanin ay hinahayaan ng mga tool na ito ang mga kasalukuyang nanalo na maghukay ng mas malalim na mga mode. Na ito ay hindi kinakailangang isang nakakagambalang Technology, ngunit isang nakatatag ONE.

At si Ariana, ang iyong pangunahing AI excitement at takot?

Ariana Spring: Magsisimula ako sa aking takot dahil may sasabihin ako ng katulad. Masasabi kong sentralisasyon. Nakita namin ang mga pinsala ng sentralisasyon kapag ipinares sa kakulangan ng transparency tungkol sa kung paano gumagana ang isang bagay. Nakita namin ito sa nakalipas na 10, 15 taon sa social media, halimbawa. At kung T mo maintindihan kung bakit ginagawa ng AI ang mga desisyong ginagawa nito o kung sino ang may pananagutan, talagang mahirap tanungin kung bakit naibubuga ang mga nakakapinsalang bagay. Kaya sa tingin ko ang sentralisasyon - at ang pag-iingat ng mga lihim na iyon sa mga itim na kahon - ay talagang mapanganib.

Paano ang excitement?

Ang pinakakinasasabik ko ay ang pagdadala ng mas maraming tao. Nagkaroon kami ng pagkakataong magtrabaho kasama ang iba't ibang uri ng mga grupo ng stakeholder habang sinasanay namin ang ClimateGPT, gaya ng mga katutubong grupo ng matatanda o mababang kita, urban, Black at brown na kabataan, o mga estudyante sa Middle East. Nakikipagtulungan kami sa lahat ng mga aktibista at akademya ng klima na ito para sabihing, "Uy, gusto mo bang tumulong na gawing mas mahusay ang modelong ito?"

Talagang nasasabik ang mga tao, ngunit marahil ay T nila naintindihan kung paano ito gumagana. Kapag tinuruan namin sila kung paano ito gumagana at kung paano sila makakatulong, makikita mong sasabihin nila, "Oh, ito ay mabuti." Nagkakaroon sila ng kumpiyansa. Tapos gusto pa nilang mag-ambag. Kaya ako ay talagang nasasabik, lalo na sa pamamagitan ng gawaing ginagawa namin sa EQTY Research, upang simulan ang pag-publish ng ilan sa mga framework na iyon, kaya T namin kailangang umasa sa mga system na marahil ay T iyon kinatawan.

Maganda ang sinabi. Magkita-kita tayo sa Austin sa Consensus' AI Summit.