Alexa, dünya genelinde 100 milyondan fazla cihaza kuruludur ve bu işlem sürecinde milyarlarca kullanıcı sorgusu elde edilir. Tüm dijital yardımcılar gibi, Alexa da daha iyi yanıtlar sunmak için veri modellerine güveniyor, ancak Amazon da dijital asistana insan incelemeleri biçiminde yardımcı bir el vermiş gibi görünüyor. Bloomberg tarafından yapılan bir araştırma, Amazon'un “Alexa'nın insan konuşmasını anlama konusundaki boşlukları ortadan kaldırmak” ve asistanın sorularınıza daha iyi tepkiler vermesini sağlamak için Alexa kayıtlarını çevrelerinden dünyaya kopyalayan ve buna bağlayan küresel bir ekibe sahip olduğunu ortaya koydu.
Yayın, Amazon'un dünyadaki binlerce kişiyi - müteahhit ve tam zamanlı çalışanlar - Boston, Kosta Rika, Hindistan ve Romanya'ya yayılmış ekiplerle Alexa kayıtlarını incelemek için kullandığını tespit etti. Adlandırılmamış bir kaynağa göre, her bir yorumcu dokuz saatlik bir vardiyada 1.000'den fazla ses klibini ayrıştırıyor, bunları ek açıklama ve Alexa'nın yanıtlarını iyileştirmek için sisteme geri veriyor. Bloomberg'den:
Boston'daki bir işçi, "Taylor Swift" gibi belirli ifadeler için birikmiş ses verileri çıkardığını ve arayıcının müzik sanatçısı anlamına geldiğini belirtmek için açıklamada bulunduğunu söyledi.
Bazen dinleyiciler, Yankı sahiplerinin muhtemelen özel kalması gereken şeyleri seçiyorlar: duşta anahtar söyleyen bir kadın, diyelim ya da yardım için çığlık atan bir çocuk. Ekipler, karışık bir sözcüğü ayrıştırmak için yardıma ihtiyaç duyduklarında dosyaları paylaşmak ya da eğlenceli bir kayda rastlamak için dahili sohbet odalarını kullanır.
Yayın ayrıca çalışanların rahatsız edici nitelikte kayıtlarla karşılaştığını da buldu:
Bazen sinir bozucu veya muhtemelen suçlu buldukları kayıtları duyarlar. İşçilerden ikisi, cinsel saldırı olduğuna inandıklarını aldıklarını söyledi. Böyle bir şey olduğunda, iç sohbet odasındaki deneyimi stresi azaltmanın bir yolu olarak paylaşabilirler.
Amazon, işçilerin üzücü bir şey duyduklarında takip etmesi gereken prosedürlere sahip olduğunu söylüyor, ancak Romanya merkezli iki çalışan, bu tür durumlar için rehberlik istedikten sonra, Amazon'a müdahale etmeyeceklerini söyledi.
Kayıtlar, kullanıcının tam adını veya adresini içermez, ancak kullanıcının adını, hesap numarasını ve cihazın seri numarasını içerir. Amazon, daha önce Alexa'yı eğitmek için doğal dil işlemeye dayandığını söylemişti, ancak Bloomberg'e "küçük bir Alexa ses kaydı örneği:" notu eklemek için bir insan unsuru kullandığını itiraf etti:
Müşterilerimizin kişisel bilgilerinin güvenliğini ve gizliliğini ciddiye alıyoruz. Müşteri deneyimini geliştirmek için yalnızca çok küçük bir Alexa ses kaydı örneğine açıklama ekliyoruz. Örneğin, bu bilgiler konuşma tanıma ve doğal dil anlama sistemlerimizi eğitmemize yardımcı oluyor, böylece Alexa isteklerinizi daha iyi anlayabilir ve hizmetin herkes için iyi çalışmasını sağlar.
Sıkı teknik ve operasyonel güvencelerimiz var ve sistemimizi kötüye kullanma konusunda sıfır tolerans politikamıza sahibiz. Çalışanlar, bu iş akışının bir parçası olarak kişiyi veya hesabı tanımlayabilecek bilgilere doğrudan erişemez. Tüm bilgiler yüksek gizlilik içinde ele alınır ve erişimi, servis şifrelemesini ve onu korumak için kontrol ortamımızın denetimlerini kısıtlamak için çok faktörlü kimlik doğrulaması kullanırız.
Dijital asistanını geliştirmek için insan yardımcılarına dönüşen sadece Amazon değil. Bloomberg, Apple’ın Siri’nin istekleri yorumlamasının kullanıcılar tarafından sorulana uyup uymadığını kontrol eden bir insan ekibine sahip olduğunu tespit etti. Google’ın Asistan’ı eğittiği konusunda hakemler var, ancak klipler kişisel olarak tanımlanabilir hiçbir bilgiye sahip değil ve kimliğin önlenmesini engellemek için sesin kendisi de bozuk.
