Ang isang bagong pag-aaral ay nagpapakita na ang malalaking wika ng mga modelo ng AI ay may problema sa pagtimbang ng mga potensyal na pakinabang at pagkalugi, isinulat ng isang propesor sa engineering ng USC. Sa nakalipas na ilang taon, nagkaroon ng malaking pag-unlad sa malalaking language model artificial intelligence system na maaaring gumawa ng mga bagay tulad ng pagsusulat ng tula, pag-uusap na parang tao at pagpasa sa mga pagsusulit sa medikal na paaralan. Ang pag-unlad na ito ay nagbunga ng mga modelo tulad ng ChatGPT na maaaring magkaroon ng malalaking epekto sa lipunan at ekonomiya mula sa mga paglilipat ng trabaho at pagtaas ng maling impormasyon hanggang sa napakalaking pagtaas ng produktibidad.
Sa kabila ng kanilang mga kahanga-hangang kakayahan, ang malalaking modelo ng wika ay hindi talaga nag-iisip. May posibilidad silang gumawa ng mga pagkakamali sa elementarya at kahit na gumawa ng mga bagay-bagay. Gayunpaman, dahil bumubuo sila ng matatas na wika, ang mga tao ay may posibilidad na tumugon sa kanila na parang iniisip nila. Ito ay humantong sa mga mananaliksik na pag-aralan ang mga “cognitive” na kakayahan at bias ng mga modelo, ang gawaing naging kahalagahan ngayon ang malalaking modelo ng wika ay malawak na naa-access.
Ang linya ng pananaliksik na ito ay nagsimula sa mga unang modelo ng malalaking wika tulad ng BERT ng Google, na isinama sa search engine nito at sa gayon ay likhang BERTology. Hiwalay ito sa Google Bard, ang katunggali ng ChatGPT sa paghahanap. Ang pananaliksik na ito ay nagsiwalat ng maraming tungkol sa kung ano ang maaaring gawin ng mga naturang modelo at kung saan sila nagkakamali. Halimbawa, ipinakita ng mga eksperimento na may matalinong disenyo na maraming modelo ng wika ang may problema sa pagharap sa negasyon – halimbawa, isang tanong na binansagan bilang “ano ang hindi” – at paggawa ng mga simpleng kalkulasyon. Maaari silang maging sobrang tiwala sa kanilang mga sagot, kahit na mali. Tulad ng iba pang modernong machine learning algorithm, nahihirapan silang ipaliwanag ang kanilang sarili kapag tinanong kung bakit sila sumagot sa isang partikular na paraan. Gumagawa din ang mga tao ng hindi makatwiran na mga desisyon, ngunit ang mga tao ay may mga emosyon at nagbibigay-malay sa mga shortcut bilang mga dahilan.
Paggawa ng tamang taya sa poker.
Ang linya ng pag-aaral na ito ay mahalaga dahil ang makatuwirang paggawa ng desisyon sa ilalim ng mga kondisyon ng kawalan ng katiyakan ay kritikal sa pagbuo ng mga sistema na nauunawaan ang mga gastos at benepisyo. Sa pamamagitan ng pagbabalanse ng mga inaasahang gastos at benepisyo, ang isang matalinong sistema ay maaaring gumawa ng mas mahusay kaysa sa mga tao sa pagpaplano sa paligid ng mga pagkagambala sa supply chain na naranasan ng mundo sa panahon ng pandemya ng COVID-19, pamamahala ng imbentaryo o pagsisilbi bilang isang tagapayo sa pananalapi.
Sa huli, ipinapakita ng aming gawain na kung ginagamit ang malalaking modelo ng wika para sa mga ganitong uri ng layunin, kailangang gabayan, suriin at i-edit ng mga tao ang kanilang gawa. At hanggang sa malaman ng mga mananaliksik kung paano ipagkaloob ang malalaking modelo ng wika na may pangkalahatang kahulugan ng pagiging makatwiran, ang mga modelo ay dapat tratuhin nang may pag-iingat, lalo na sa mga application na nangangailangan ng mataas na stake na paggawa ng desisyon.
