Haberleri bağlamlandırmak için güvendiğiniz kaynak. Günlük bültenimize kaydolun.
Mart ayında sağlık teknolojisi girişimi HeHealth Calmara AI’yı tanıttı“Daha güvenli seks için yakınlık arkadaşınız” olduğunu iddia eden bir uygulama. Uygulama, Calmara’nın cinsel yolla bulaşan bir enfeksiyon (CYBE) olup olmadığını tespit etmek için taraması için partnerlerinin penisinin bir resmini yükleyebilecekleri söylenen kadınlara yoğun bir şekilde pazarlandı. Kullanıcılar emoji yüklü bir “Temiz!” veya “Bekleyin!!!” kararı — söz konusu penisin tüm cinsel yolla bulaşan hastalıklardan ari olmadığı yönünde bir uyarıyla.
Seks ve kültür eleştirmeni Ella Dawson, Calmara AI’nın “partnerinizin cinsel sağlık durumu hakkında size net, bilimsel olarak desteklenen yanıtlar veren AI destekli taramalar” sağladığı iddiasını ilk gördüğünde verdiği tepki kolayca şu şekilde özetlenebilir: “çok aman aman.” Sosyal medyada alarma geçti ve gizlilik ve doğruluk konusundaki endişelerini dile getirdi. Bu ilgi, olumsuz basının ve Los Angeles Times soruşturması.
Federal Ticaret Komisyonu da kaygılıydı. Ajans HeHealth’e bildirimde bulunduCalmara AI’nın ana şirketi, olası dolandırıcılık reklam iddiaları ve gizlilik endişeleri hakkında bir soruşturma başlattığını duyurdu. HeHealth, birkaç gün içinde uygulamalarını piyasadan çekti.
HeHealth CEO’su Yudara Kularathne, FTC’nin herhangi bir yanlış uygulama bulmadığını ve herhangi bir ceza verilmediğini vurguladı. “HeHealth tüketici uygulaması önemli kayıplara uğramıştı, bu yüzden bir girişim olarak karlılığa odaklanmak için kapatmaya karar verdik,” diye yazdı e-postada ve şirketin şu anda çoğunlukla Amerika Birleşik Devletleri dışında hükümetler ve STK’larla işletmeden işletmeye projelere odaklandığını söyledi.
Daha Ve Daha Yapay zeka destekli cinsel sağlık uygulamaları ortaya çıkmaya başladı ve durma belirtisi yok. Tüketici odaklı yeni uygulamalardan bazıları, genellikle kültürel açıdan hassas ve cinsiyete duyarlı bakım almada zorluk çeken kadınlara ve queer kişilere yönelik. Girişim sermayedarları ve fon sağlayıcılar, yeterince hizmet alamayan nüfuslarda fırsatlar görüyorlar — ancak gizlilik ve güvenlikten çok büyümeye öncelik verebilirler.
19. The, özellikle hassas sağlık uygulamaları söz konusu olduğunda AI hakkındaki iddiaların en iyi şekilde nasıl değerlendirileceği konusunda cinsel sağlık eğitimcileri ve bilgisayar bilimi araştırmacılarıyla görüştü. Üç ana alana işaret ettiler: pazarlama, tıbbi iddialar ve gizlilik politikaları.
Sağlık teknolojisi, uzaktan bakıma izin vermek için tele sağlık yasalarının gevşetildiği COVID-19 salgınının başlangıcından bu yana patlama yaşadı. Dawson, bazı şirketlerin bu fırsatı yenilik yapmak için kullandığını ancak bazılarının gerçek doktorların yaptığı gibi gizlilik endişelerine öncelik vermeyen kar kapmacaları olduğunu söyledi.
Cinsel sağlık, çok az kişinin akıcı bir şekilde bildiği bir konudur ve cinsel yolla bulaşan enfeksiyonlar konusunda büyük bir toplumsal damgalama vardır. Dawson, cinsel yolla bulaşan hastalıklar testi arayan kişilerin “genellikle duygusal bir durumda olan ve net kararlar alamayan, savunmasız, yeterince hizmet alamayan bir nüfus” olduğunu söyledi.
Dawson, insan etkileşiminin yerine makine öğrenimini koyan hizmetlerin çekici olduğunu, çünkü insanların endişeleriyle kendi evlerinin mahremiyetinde ilgilenmelerine olanak tanıdığını söyledi. İnsanlar, özellikle gençler, potansiyel bir cinsel yolla bulaşan hastalığa maruz kalmanın utancı nedeniyle biriyle -hatta bir doktorla- konuşmak istemeyebilir. “Ve bu, bir fırsat gören yeni kurulan şirketler için istismar edilmesi gereken çok tehlikeli bir dinamiktir,” dedi.
Dağıtılmış Yapay Zeka Enstitüsü’nde baş araştırma mühendisi olan Dylan Baker, “yapay zeka” (çoğu durumda makine öğrenme sistemleri olarak da bilinir) hakkındaki iddialara şüpheyle yaklaşıyor.
Baker, tıbbi ortamlarda, doktorların ve araştırmacıların makine öğrenimini uzun zamandır kullandığını söyledi. Örneğin, American Journal of Roentgenology’de 2012’de yapılan bir çalışma Otomatik görüntü tutma sistemlerinin radyologlara nasıl yardımcı olabileceğini gösterdi akciğer nodüllerini daha verimli bir şekilde teşhis edin. Ancak bu uygulamalar işe yarıyor çünkü tıbbi personel, üzerinde çalıştıkları modellerin tüm nüansları konusunda eğitimli ve hesaplamanın sınırlarını biliyor. Bu bilgi hastalara kadar uzanmıyor.
Dikkate alınması gereken ilk şeylerden biri, bir AI uygulamasının iddia ettiği şeyi gerçekten yapıp yapamayacağıdır. Uzmanlar, sorunu aşırı basitleştiren teknolojiye karşı dikkatli olunması gerektiğini söyledi. Örneğin, birçok cinsel yolla bulaşan hastalık asemptomatiktir ve yalnızca laboratuvar testleri aracılığıyla doğrulanabilir.
Özellikle cinsel sağlık, birçok doktorun bile sahip olmadığı uzmanlaşmış bilgi gerektirir, diyor eğitimli bir seks terapisti ve seks eğitmeni olan Emily L. Depasse. Yapay zekanın genellikle insanlardan daha akıllı olduğu pazarlanıyor, ancak bunun mutlaka böyle olmadığını söylüyor Baker. Net sonuçlar vaat eden herhangi bir uygulama şüphelenilmesi gereken bir şeydir.
Bu nedenle, bir uygulamayı destekleyen bir makine öğrenimi modelinin hangi bilgi üzerine eğitildiğini belirlemek önemlidir. Birçok şirket, kullandıkları modeli ayrıntılarıyla açıklayan araştırma makalelerini web sitelerinde sunar. Baker, “Modelinizin eğitildiği verilerin kullanım durumunuzla mümkün olduğunca etkili bir şekilde eşleştiğinden emin olmak istersiniz,” dedi. Uygulama geliştiricileri, modellerini eğitmek için çeşitli ışık koşulları, açılar ve cilt tonlarına sahip gerçek resimler kullanmazlarsa, bu yanlış sonuçlara yol açabilir.
Eğitim verileri HeHealth’in eleştirildiği yönlerden biriydi. Mühendisler, modellerini cinsel yolla bulaşan hastalıklara sahip gerçek penis fotoğrafları üzerinde eğitmenin yanı sıra onu uydurma görüntüler üzerinde eğittim sağlıklı penislerin resimlerinin üzerine enfeksiyon resimleri yerleştirilerek oluşturulmuştur.
Ticari olarak temin edilebilen AI ürünleri üreten şirketler, modellerini olası önyargılar açısından denetlemelidir, çünkü Baker, “eğitim verilerinin kendisi ile sonuçlardaki önyargı arasındaki ilişki her zaman tamamen açık değildir” dedi. İdeal olarak, bu bilgi, potansiyel müşterilerin incelemesi için bir şirketin web sitesinde veya bağlantılı araştırma makalelerinde erişilebilir olmalıdır.
Bir uygulamanın sınırları talimatlarında açıkça iletilmelidir. Cinsiyet kapsayıcılığı sağlık uygulamalarında bir sorun olabilir, diyor Swarthmore College’da mühendislik profesörü olan Maggie Delano. Örneğin, Delano kullanıcıların ikili bir cinsiyet seçmesini isteyen bir kilo izleme uygulaması üzerinde araştırma yaptı. Küçük bir seçim gibi görünebilir, ancak bu bilgi vücut yağ yüzdesini hesaplamak için kullanılır.
Bir uygulamada birden fazla girdi varsa, Delano trans bireylerin farklı seçenekleri denemelerini ve vücutları için en iyi işe yarayanı seçmelerini öneriyor. “Daha önce hiç görmediğim, görmek istediğim şeylerden biri, ‘Hey, eğer transsanız, bu algoritmaya girdi yaparken kullanmanız gereken değer budur’ şeklinde gerçek bir tartışma,” dediler.
Delano ayrıca, bir ürün için ödeme yapmıyorsanız, bunun genellikle ürünün kendisi olduğunuz anlamına geldiğine dair bir atasözünü de hatırlattı. kişisel veriler satılıyor veya reklamlarda dikkatinizin kullanılması. Bu nedenle, birçok AI modeli kullanıcı girdisi üzerinde eğitim aldığından, herhangi bir uygulamanın gizlilik politikasını iyice taramak önemlidir. Kişisel sağlık bilgilerinin, ürünleriyle arayüzlendikten sonra şirket tarafından nasıl saklandığı ve kullanıldığı hakkında net bilgiler olmalıdır.
Tüketici sağlık uygulamaları HIPAA tarafından mutlaka kapsanmıyorgenellikle sağlık hizmeti kuruluşlarına uygulanan en ünlü sağlık gizliliği yasasıdır, ancak birçok çakışan düzenleme uygulanabilir. FTC şunu öneriyor Uygulama tarafından hangi bilgilerin toplanacağını ve nasıl paylaşılacağını gözden geçirme.
Baker, gizlilik vaatlerinin şirket tarafından ihlal edilmesi durumunda hangi başvuru yollarının bulunduğunun uygulama hüküm ve koşullarında belirtilmeye çalışılması gerektiğini söyledi.
Pazarlama iddiaları övüngen ve bazı durumlarda yasa dışı olabilir. ABD Gıda ve İlaç Dairesi tıbbi cihazları düzenler, bu nedenle belirli bir uygulamanın dairenin onayına sahip olup olmadığını kontrol etmek önemlidir. Dawson, bu bilginin genellikle bir web sayfasının en altında olduğunu ve hizmetin teşhis sunmadığına dair bir feragatname içerebileceğini söyledi. Eğer öyleyse, pazarlamanın bunu yansıtıp yansıtmadığına bakmak önemlidir. Baker, birçok reklamın yapay zekayı insanlaştırmaya çalıştığını ve bunun eğitimli bir doktorun yerini alabilecekmiş gibi göründüğünü söyledi.
Cinsel sağlık ciddi bir konudur, dedi Depasse ve pazarlama metinlerinde çocuksu bir dil kullanılmasına karşı kişisel olarak temkinli. Sosyal medya filtrelerini aşmak için “seks” yerine “seggs” gibi eufemizmler veya sevimli dil kullanmak damgayı güçlendirir ve konu hakkında uzmanlık eksikliğini örtbas edebilir.
Teknoloji kurucularının cinsel sağlık uzmanları, jinekologlar, seks eğitmenleri ve üreme sağlığı alanında çalışanlarla iş birliği yapması gerektiğini söyledi Depasse. Dawson, kurucuların geçmişine bakılmasını önerdi: İşletme okulundan yeni mi mezun oldular? Sermaye artırmaya mı odaklandılar? Ekiplerinde tıp uzmanları yok mu? Eğer öyleyse, bunlar bir ekibin güvenli ve doğru bir sağlık ürünü yaratmaktan çok satışla ilgilendiğinin göstergeleridir.
The 19th’in röportaj yaptığı eğitimciler ve araştırmacılar, yapay zekanın sınırlı sağlık hizmeti seçeneklerine sahip kişilere nasıl pazarlandığı konusunda hayal kırıklığı ve öfke duyduklarını dile getirdiler.
Yapay zeka etiği araştırmacısı olan Baker, piyasada “yırtıcı” uygulamalar görünce biraz heyecanlandığını söylüyor.
“Çünkü insanların zorluk çektiğini biliyorum,” dediler. “Sağlık hizmetlerine erişim zor olabilir ve bu çok gerçek bir boşluğu doldurmaya çalışıyor.”
