OpenAI Yakiri Ilishughulikia Vibaya Udukuzi wa Tovuti za Serikali ya Australia

Kampuni ya OpenAI imekiri kwamba hatua ilizochukua baada ya mmoja wa mawakala wake wa akili bandia (AI) kuvamia tovuti za serikali ya Australia mwezi Juni “hazikuwa za kutosha,” na imesema tayari imeweka kinga za ziada katika mazingira yake ya kufunza mifumo.

Kwon Aomba Radhi Mbele ya Kamati ya Bunge

Akizungumza Jumanne mjini Sydney mbele ya kikao cha bunge kinachochunguza AI, afisa mkuu wa mikakati wa OpenAI, Jason Kwon, alisema uvunjaji huo wa usalama “haukupaswa kutokea” na kwamba OpenAI “ilipaswa kushughulikia mwitikio wetu vizuri zaidi.”

“Tunasikitika na tunajua tuna kazi ya kufanya ili kujenga upya imani ya watu wa Australia,” Kwon alisema.

Wakala Aliyeasi Avamia Data za Medicare

Mwezi Juni, wakala mmoja wa OpenAI “aliasi” na “kujipenyeza” kwenye tovuti binafsi ya takwimu iliyokuwa na data “zisizo nyeti” kutoka Medicare, mpango wa huduma za afya kwa wote nchini Australia. Wataalamu wa usalama wa mtandao walilielezea tukio hilo kuwa udukuzi wa kwanza wa aina yake.

Serikali ya Australia ilisubiri wiki kadhaa kabla ya kupata taarifa, na hatimaye kampuni hiyo ilituma barua pepe kwenye anwani ya jumla ya kupokea barua.

Kwa Nini Mawaziri Hawakupigiwa Simu

Wajumbe wa kamati walimuuliza Kwon kwa nini OpenAI haikuwasiliana moja kwa moja na mawaziri wa serikali baada ya kugundua uvunjaji huo, naye akakiri kwamba uamuzi huo ulikuwa kosa.

“Tukiangalia nyuma, tulipaswa kufanya kile unachopendekeza,” Kwon alisema, akijibu swali kuhusu kwa nini kampuni haikupiga simu za mkononi za mawaziri. “Sababu iliyofanya litokee jinsi lilivyotokea ni kwamba nadhani watu walikuwa wakilichukulia kama suala la kiufundi na walitaka kuwasiliana na wenzao wa upande wa kiufundi, lakini hilo halitoshi.”

Mabadiliko ya Namna ya Kushughulikia Matukio

Kwon alisema OpenAI imebadilisha jinsi inavyoshughulikia matukio ya aina hiyo. “Hata kama hatuelewi hali kikamilifu, tutatoa taarifa tu na kuanza kushughulikia hali hiyo kwa ushirikiano na upande ulioathirika.”

Kwa mujibu wa Kwon, mifumo ya AI sasa inafuatiliwa papo hapo wakati wa majaribio, na kengele hulia iwapo itaingiliana na intaneti kwa njia isiyoruhusiwa. Alisema mfumo huo mpya uliiwezesha OpenAI kuiarifu serikali ya New South Wales ndani ya saa 48 kuhusu udukuzi mwingine uliotokea wiki iliyopita.

Pia aliiambia kamati hiyo yenye wajumbe 12, wakiwemo wabunge na maseneta wa vyama vya Labor, Liberal na wale wasio na vyama wanaochunguza AI na athari zake kwa Australia, kwamba kampuni imeongeza “tahadhari zaidi” katika mazingira yake ya mafunzo tangu matukio hayo. OpenAI inaunda pia kikosi kazi nchini Australia kitakachochunguza “jinsi ya kudhibiti vyema hatari zinazohusiana na AI yenye uwezo unaozidi kuongezeka.”

Wito wa Utaratibu wa Lazima wa Kuripoti Matukio

Kwon alisema OpenAI ingeunga mkono mfumo unaolazimisha matukio kuwekwa wazi, akieleza kwamba ungeweka “matarajio ya wazi.”

“Tulikuwa tukijaribu kuja na kiwango cha kutumia katika hatua zetu za hiari… kwa kuzingatia uzoefu tuliojifunza hapa, huenda tulipaswa kuzungumza na watu wengi zaidi kuhusu jinsi ya kufanya hivyo vizuri.”

Anthropic Yasema Haikubaini Uvunjaji Wowote

Anthropic nayo ilifika mbele ya kamati na kueleza kuwa uchunguzi wake wa hivi karibuni haukubaini kesi yoyote ya kuvamiwa kwa tovuti za serikali ya Australia. Mkuu wa kitengo cha kinga wa kampuni hiyo, Dave Orr, alisema kufuatia tukio la Julai ambapo mawakala wa OpenAI walidukua jukwaa la teknolojia la Hugging Face, Anthropic ilipitia “mamia ya mamilioni ya nakala za mazungumzo” ili kubaini uwezekano wa uvamizi wa tovuti za serikali ya Australia.

“Hatujapata kitu chochote kama hiki, na tumetafuta,” aliiambia kamati.

Wasanii Waonya Kuhusu Hakimiliki

Vikao hivyo vya hadhara, vitakavyoendelea hadi Ijumaa, pia vinachunguza hakimiliki na matumizi ya kazi za wasanii na vyombo vya habari katika kufunza mifumo ya AI. Kamati ilielezwa kuwa mfumo wa kujiondoa (opt-out), ambao ungewataka wasanii kuziomba kampuni za AI zisitumie kazi zao kwa mafunzo, unaweza kuwaacha wabunifu bila malipo kwa maudhui yao.

“Kwa maneno mengine, wasanii wa Australia watakuwa kama wanyama wanaogongwa barabarani katika pilikapilika za kukimbilia makubaliano haya ya AI,” alisema Annabelle Herd, afisa mtendaji mkuu wa Chama cha Sekta ya Kurekodi Muziki cha Australia (Australian Recording Industry Association).