Pag-update: Gihisgutan sa Apple ang usa ka ikaduha nga pag-inspeksyon sa server, ug ang usa ka propesyonal nga kompanya sa panan-awon sa kompyuter naglatid sa usa ka posibilidad kung unsa kini mahimong ihulagway sa "Giunsa ang paglihok sa ikaduha nga pag-inspeksyon" sa ubos.
Pagkahuman sa mga developers nga gi-reverse ang engineered nga mga bahin niini, ang sayo nga bersyon sa Apple CSAM nga sistema epektibo nga nalimbongan aron markahan ang usa ka inosenteng imahe.Bisan pa, gipahayag sa Apple nga kini adunay dugang nga mga panalipod aron mapugngan kini nga mahitabo sa tinuud nga kinabuhi.
Ang pinakabag-o nga kalamboan nahitabo human ang NeuralHash algorithm gipatik sa open source developer website GitHub, bisan kinsa mahimong mag-eksperimento niini...
Ang tanan nga mga sistema sa CSAM nagtrabaho pinaagi sa pag-import sa usa ka database sa nahibal-an nga mga materyal sa pag-abuso sa sekswal sa bata gikan sa mga organisasyon sama sa National Center for Missing and Exploited Children (NCMEC).Ang database gihatag sa porma sa mga hash o digital fingerprint gikan sa mga imahe.
Bisan kung kadaghanan sa mga higante sa teknolohiya nag-scan sa mga litrato nga gi-upload sa panganod, gigamit sa Apple ang NeuralHash algorithm sa iPhone sa kustomer aron makamugna og hash nga kantidad sa gitipigan nga litrato, ug dayon itandi kini sa na-download nga kopya sa CSAM hash value.
Kagahapon, usa ka developer ang nag-angkon nga reverse engineered ang algorithm sa Apple ug gipagawas ang code sa GitHub-kini nga pag-angkon epektibo nga gikumpirma sa Apple.
Sulod sa pipila ka oras pagkahuman gibuhian ang GitHib, malampuson nga gigamit sa mga tigdukiduki ang algorithm aron makahimo usa ka tinuyo nga sayup nga positibo-duha nga lainlain nga mga imahe nga nakamugna sa parehas nga kantidad sa hash.Gitawag kini nga bangga.
Alang sa ingon nga mga sistema, kanunay adunay peligro sa mga pagbangga, tungod kay ang hash siyempre usa ka labi nga gipayano nga representasyon sa imahe, apan katingad-an nga adunay usa nga makamugna sa imahe nga dali.
Ang tinuyo nga pagbangga dinhi usa lamang ka pruweba sa konsepto.Ang mga developers walay access sa CSAM hash database, nga nagkinahanglan sa paghimo sa mga sayop nga positibo sa real-time nga sistema, apan kini nagpamatuod nga ang mga pag-atake sa pagbangga medyo sayon sa prinsipyo.
Epektibo nga gipamatud-an sa Apple nga ang algorithm mao ang sukaranan sa kaugalingon nga sistema, apan gisultihan ang motherboard nga dili kini ang katapusan nga bersyon.Gipahayag usab sa kompanya nga wala gyud kini gituyo nga itago kini nga kompidensyal.
Gisultihan sa Apple ang Motherboard sa usa ka email nga ang bersyon nga gisusi sa user sa GitHub usa ka generic nga bersyon, dili ang katapusang bersyon nga gigamit alang sa iCloud Photo CSAM detection.Giingon sa Apple nga gibutyag usab niini ang algorithm.
"Ang NeuralHash algorithm [...] kabahin sa gipirmahan nga operating system code [ug] ang mga tigdukiduki sa seguridad makapamatuod nga ang kinaiya niini nahiuyon sa paghulagway," misulat ang usa ka dokumento sa Apple.
Ang kompanya nagpadayon sa pag-ingon nga adunay duha pa nga mga lakang: pagpadagan sa usa ka ikaduha (tinago) nga sistema sa pagpares sa kaugalingon nga server, ug pagrepaso sa manwal.
Gipahayag usab sa Apple nga human ang mga tiggamit makapasar sa 30-match threshold, usa ka ikaduha nga non-public algorithm nga nagdagan sa mga server sa Apple ang magsusi sa mga resulta.
"Kini nga independente nga hash gipili aron isalikway ang posibilidad nga ang sayup nga NeuralHash motakdo sa naka-encrypt nga CSAM database sa aparato tungod sa kontra nga pagpanghilabot sa dili CSAM nga mga imahe ug milabaw sa katugbang nga threshold."
Si Brad Dwyer sa Roboflow nakakaplag ug paagi aron daling mailhan ang duha ka hulagway nga gi-post isip pamatuod sa konsepto sa pag-atake sa bangga.
Nakurat ko kung unsa ang hitsura niini nga mga imahe sa CLIP sa parehas apan lahi nga neural feature extractor nga OpenAI.Ang CLIP nagtrabaho parehas sa NeuralHash;nagkinahanglan kini og hulagway ug naggamit og neural network aron makamugna og usa ka set sa feature vectors nga mapa sa sulod sa hulagway.
Apan lahi ang network sa OpenAI.Kini usa ka kinatibuk-ang modelo nga mahimong mapa sa taliwala sa mga imahe ug teksto.Nagpasabot kini nga magamit nato kini sa pagkuha sa impormasyon sa imahe nga masabtan sa tawo.
Akong gipadagan ang duha ka collision images sa ibabaw pinaagi sa CLIP aron tan-awon kung gibinuangan ba usab kini.Ang mubo nga tubag mao: dili.Kini nagpasabot nga ang Apple kinahanglan nga makahimo sa paggamit sa usa ka ikaduha nga feature extractor network (sama sa CLIP) sa mga nakita nga CSAM nga mga hulagway aron sa pagtino kon kini tinuod o peke.Mas lisud ang paghimo og mga imahe nga naglimbong sa duha ka network sa parehas nga oras.
Sa katapusan, sama sa nahisgutan sa sayo pa, ang mga imahe gisusi sa mano-mano aron makumpirma nga kini CSAM.
Usa ka tigdukiduki sa seguridad miingon nga ang bugtong tinuod nga risgo mao nga ang bisan kinsa nga gustong maglagot sa Apple makahatag og sayop nga mga positibo sa mga tawo nga tigsusi.
"Gidisenyo gyud sa Apple kini nga sistema, mao nga ang hash function dili kinahanglan nga itago, tungod kay ang bugtong butang nga mahimo nimo sa'non-CSAM ingon CSAM' mao ang pagsamok sa team sa pagtubag sa Apple nga adunay pipila ka mga junk nga imahe hangtod nga ilang ipatuman ang mga pagsala aron mapapas. pagtuki Kadtong mga basura sa pipeline mga bakak nga mga positibo, "si Nicholas Weaver, usa ka senior nga tigdukiduki sa Institute of International Computer Science sa University of California, Berkeley, misulti sa Motherboard sa usa ka online chat.
Ang pagkapribado usa ka isyu sa nagkadako nga kabalaka sa kalibutan karon.Sunda ang tanan nga mga taho nga may kalabutan sa pagkapribado, seguridad, ug uban pa sa among mga panudlo.
Si Ben Lovejoy usa ka British nga teknikal nga magsusulat ug editor sa EU alang sa 9to5Mac.Nailhan siya sa iyang mga kolum ug mga artikulo sa talaadlawan, nga nagsuhid sa iyang kasinatian sa mga produkto sa Apple sa paglabay sa panahon aron makakuha og mas komprehensibo nga mga pagsusi.Nagsulat usab siya og mga nobela, adunay duha ka mga teknikal nga thriller, pipila ka mubo nga science fiction nga mga pelikula ug usa ka rom-com!
Oras sa pag-post: Ago-20-2021