AI mandeha rogue amin’ny olombelona: hanakana an’izany ve ny Microsoft AI Red Team vaovao?
Mety hitranga raha vao tonga any amin’ny AGI ny AI mandeha amin’ny olombelona, ary toa ny orinasa AI rehetra, anisan’izany i Microsoft, dia manao ny tanjon’izy ireo hanatratra haingana ny Artificial General Intelligence. OpenAI nifantoka tamin’izany tato anatin’ny volana vitsivitsy. Ny hafa mihevitra fa a AI fantatry ny olombelona no vahaolana amin’ny AGI. Ahoana anefa raha tonga ¿algún amin’ny AGI ny AI ary lasa rogue?
Eny, na ahoana na ahoana, i Microsoft dia mandinika izany, ary noho izany dia nanangana ny goavambe teknolojia miorina amin’ny Redmond Equipo rojo de IA de Microsoft de Nueva Yorkizay mikendry ny hoavy misy AI azo antoka kokoa ao anatiny.
Ny Microsoft AI Red Team dia mety tsy manana vahaolana, amin’izao fotoana izao, raha mandeha rogue ny AI, saingy azo antoka fa tsy ho tanterahana amin’ny fikasan-dratsy ny fampandrosoana AI. Satria mihamitombo kokoa ny AI amin’ny volana, miaraka amin’ireo maodely vaovao afaka manatanteraka asa samirery, ny AI Red Team an’ny Microsoft dia hanampy amin’ny fampiharana AI azo antoka kokoa, hoy ny bilaogin’ny vondrona.
Ao amin’ny tondrozotran’izy ireo, ny AI Red Team dia te-hahazo antoka fa ny fampandrosoana AI dia mifototra amin’ny AI azo antoka, azo antoka ary azo itokisana. Saingy amin’ny fotoana iray ihany, mahatsapa fa ny AI dia probabilistic, fa tsy deterministika, ka ny Inteligencia Artificial dia hanandrana fomba hafa hamahana olana iray, izay fanamby sarotra atrehina rehefa manandrana mamorona fiarovana.
Na izany aza, ny AI Red Team dia hanao izay azo atao mba hahazoana antoka fa voafehy ny toe-javatra toy izany.
Moa ve ny AI dia manjavozavo amin’ny olombelona? Raha tonga amin’ny AGI izany, dia eny, tena mety izany. Na izany aza, amin’izay fotoana izay, Microsoft sy ireo orinasa teknolojia hafa dia tokony hiomana ho tonga amin’ny fiarovana matanjaka.
