Firmy ponúkajúce hlasový asistenčný softvér, či už je to Amazon Alexa, Google Assistant alebo Apple Siri, celé roky sčasti odpočúvali a prepisovali fragmenty rozhovorov svojich používateľov, aby zlepšili kvalitu softvéru. Išlo napríklad o prípady, keď softvér nepochopil príkaz, nerozpoznal aktivačné príkazy alebo nezvládal nové jazyky či dialekty.
Hoci všetky firmy zdôrazňujú, že záznamy boli vždy anonymizované, používatelia o týchto praktikách zväčša nevedeli, kým sa pred niekoľkými mesiacmi neobjavili prvé správy v médiách. Google a Apple pred pár týždňami zrušili analyzovanie príkazov svojimi zamestnancami, Amazon zas zákazníkom ponúkol možnosť zakázať nahrávanie.
Pozornosť sa na Apple a jeho softvér Siri uprela koncom júla po článku v britskom denníku The Guardian. Istý zamestnanec jedného z poskytovateľov služieb Apple uviedol, že na záznamoch možno počuť sčasti veľmi súkromné podrobnosti. Siri zaznamenáva napríklad fragmenty hovorov s lekárskym alebo spoločenským obsahom, možné kriminálne aktivity alebo používateľov v intímnych chvíľach.
Avizované zmeny Apple okrem iného obsahujú aj to, že analýzu častí hlasových záznamov budú počúvať iba jeho vybraní zamestnanci, a nie pracovníci externých poskytovateľov služieb. Najväčším problémom je neúmyselné spustenie služby, keď softvér určité zvuky vyhodnotí ako aktivačný pozdrav „Hej, Siri“. Vtedy môže systém zaznamenávať aj vety či rozhovory, ktoré nie sú určené pre tohto asistenta.
Zamestnanci Apple budú pri následnom počúvaní záznamu vyhodnocovať, ktoré slová alebo zvuky neúmyselne aktivovali službu, aby softvér mohli upraviť. Podľa predchádzajúcich údajov Apple sa analyzovalo menej než jedno percento rozhovorov, ktorých fragmenty neboli dlhšie než niekoľko sekúnd. Záznamy sa uchovávali až dva roky za účelom vylepšovania služby, pričom po šiestich mesiacoch sa ukladala kópia bez osobných údajov.
