Apple Yaonya Kuwa Mawakala wa AI Wanaweza Kuleta Hatari za Kisheria na Kiusalama kwa Biashara Yake

Kampuni ya Apple imeonya kuwa mawakala wa akili bandia (AI agents) wenye uwezo wa kujiendesha wenyewe wanaweza kuiweka kampuni hiyo katika hatari ya kushtakiwa, kuvamiwa kiusalama na kuchafuliwa sifa iwapo watatenda kwa njia zisizokusudiwa au zisizotabirika.

Onyo Katika Ripoti ya Mwaka

Onyo hilo lilitolewa katika ripoti ya mwaka ya fedha ya kampuni hiyo iliyochapishwa siku ya Jumanne, likionyesha wasiwasi unaoongezeka miongoni mwa makampuni makubwa ya teknolojia kuhusu hatari zinazoweza kutokana na mawakala wa AI wanaozidi kuwa wa kisasa.

Katika ripoti hiyo, Apple ilieleza kuwa mawakala wa AI wanaweza kuwasiliana wenyewe na mifumo ya ndani na ya nje, kuendesha au kubadilisha programu (code), kutuma mawasiliano na kukamilisha miamala, ikiwemo shughuli ambazo huenda hawana ruhusa ya kuzifanya. Kampuni hiyo iliongeza kuwa mawakala hao wanaweza kuchukua hatua ambazo hazikuagizwa wala kuidhinishwa na watumiaji, jambo linaloibua wasiwasi kuhusu uwezo wao wa kuvuka mipaka waliyowekewa.

Matukio Yanayozua Wasiwasi

Tamko hilo la Apple linakuja wakati ambapo uwezo wa mawakala wa AI kuvuruga mambo unazidi kuangaziwa, kufuatia matukio ambapo baadhi yao inaripotiwa walitoroka mazingira ya kiusalama waliyotengewa na kuingia kwenye tovuti za watu wengine, likiwemo tukio lililohusisha Hugging Face.

Maendeleo hayo pia yamevuta uchunguzi zaidi kutoka kwa watunga sera jijini Washington na sehemu nyingine duniani, huku makampuni makubwa, yakiwemo Amazon na JPMorgan Chase, yakipitia upya sera zinazosimamia jinsi mawakala wa AI wanavyofikia huduma zao.

Hatua za Apple Kudhibiti Hatari

Mwezi uliopita, Apple ilitangaza mabadiliko kuhusu ruhusa ya kufikia diski nzima (full disk access) kwenye kompyuta za Mac, ili kupunguza hatari za kiusalama zinazohusishwa na mawakala wa AI waliosakinishwa kwenye vifaa vya watumiaji.

Hata hivyo, kampuni hiyo ilitahadharisha kuwa uwezo wake wa kusimamia na kudhibiti mawakala wa AI wa kampuni nyingine pamoja na teknolojia nyingine zinazoibuka huenda ukawa na ukomo.

Mipango ya Siri Chini ya Ternus

Ingawa kwa sasa Apple haina wakala wa AI anayejiendesha mwenyewe unaolingana na bidhaa zilizozinduliwa na OpenAI na Meta, Afisa Mtendaji Mkuu wake mpya, John Ternus, alisema kampuni inaona fursa kubwa za kupanua uwezo wa Siri.

Akizungumza katika mkutano wa kampuni kuhusu mapato uliofanyika Jumatatu, Ternus aliielezea AI inayojiendesha (agentic AI) kuwa yenye matumaini, lakini akasisitiza umuhimu wa kuhakikisha watumiaji wanaelewa kiwango cha ruhusa wanachotoa kwa teknolojia hizo. Alisema Apple itaweka mbele usalama na faragha wakati ikitengeneza uwezo wa juu zaidi wa AI.

Mapema mwaka huu, Apple ilizindua Siri AI, inayotumia taarifa zilizohifadhiwa ndani ya iPhone, zikiwemo kalenda na barua pepe, kuwasaidia watumiaji. Hata hivyo, msaidizi huyo bado hajiendeshi mwenyewe kwa muda mrefu kama baadhi ya mawakala wa AI wa washindani.

Ternus alizielezea kinga za faragha za Apple kuwa faida kubwa ya kiushindani, akibainisha kuwa Siri inaweza kuwasaidia watumiaji kufikia taarifa zao binafsi, zikiwemo anwani za mawasiliano, jumbe, kumbukumbu za afya na taarifa za kifedha, bila kuathiri ahadi za kampuni kuhusu faragha.

Changamoto za Kisheria na Kimaadili

Apple pia ilionya kuwa kanuni zinazobadilika na zisizotabirika zinazosimamia akili bandia na akili-juu (superintelligence) zinaweza kuongeza gharama zake za kuzingatia sheria.

Zaidi ya hayo, kampuni hiyo ilitaja wasiwasi wa kimaadili na mtazamo hasi wa umma kuhusu AI na mifumo ya kujiendesha kuwa hatari zinazoweza kuathiri biashara yake, hasa pale teknolojia hizo zinapoonekana kutishia usalama au kusababisha madhara mapana kwa jamii.