DeepMind, la compañía de inteligencia artificial propietaria de Alphabet, debe explicar cómo pretende ganar dinero con su trabajo con el Servicio Nacional de Salud del Reino Unido, según han confirmado en el panel de revisión.
Este panel también dijo que la división de atención médica de DeepMind necesita ser más transparente sobre su relación con el resto de la compañía de inteligencia artificial, tanto Alphabet como Google.
Es probable que el público sospeche que debe haber un motivo de lucro no divulgado o una agenda oculta sin claridad sobre el modelo comercial de DeepMind. “No creemos que este sea el caso, pero instamos a DeepMind a ser transparente sobre su modelo de negocio y su capacidad para cumplir con eso sin ser reemplazado por Alphabet”, dijo el panel.
DeepMind, que es conocido por crear los softwares que podrían vencer a los mejores jugadores humanos del mundo en el juego de estrategia. DeepMind aplica el aprendizaje automático al cuidado de la salud. Ha trabajado con varios hospitales del NHS para diseñar una aplicación que alerta a los médicos y a los pacientes en riesgo de desarrollar una lesión renal aguda. También tiene varios proyectos que analizan si el software puede detectar otros problemas médicos graves de los datos de imágenes médicas de la forma más efectiva.
RECORD DE PACIENTES
Pero el trabajo de la compañía con el HNS ha sido controvertido. El máximo organismo de control de privacidad de los Estados Unidos dijo el año pasado que uno de los hospitales que trabajaba con DeepMind en su aplicación de alerta transfirió ilegalmente millones de registros de pacientes a la compañía.
Cuando DeepMind formalmente creó una división de atención médica separada, designó al panel de expertos externos para realizar revisiones anuales de su trabajo.
“Los problemas de privacidad en la era digital son, en todo caso, más preocupantes ahora que hace un año y la opinión pública sobre los gigantes tecnológicos ha cambiado sustancialmente”, dijo Julian Huppert, presidente del panel de revisión. “Hemos sido claros desde el principio de que ‘lo suficientemente bueno’ no es lo suficientemente bueno para una empresa con una relación tan cercana a Google”, añade.
Huppert dijo en una entrevista que, si bien Mustafa Suleyman, cofundador de DeepMind y jefe de su división aplicada, había ofrecido garantías sobre su independencia de Alphabet y Google en lo que respecta al intercambio de datos, DeepMind necesitará consagrar estos compromisos en una especie de compromiso y forma pública. Dijo que esta era la única forma en que las personas podían estar seguras de que la independencia de DeepMind continuaría incluso si Suleyman eventualmente deja la compañía.
TEXTOS CONTRACTUALES
DeepMind ha publicado el texto de sus contratos con los fideicomisos del NHS, con solo redacciones menores, lo que demuestra que la compañía ha realizado su trabajo en gran medida de forma gratuita.
En respuesta al informe, DeepMind dijo que su división de atención médica continúa definiendo su enfoque comercial.
“Estamos desarrollando nuestro modelo de negocio a largo plazo y nuestra hoja de ruta, y esperamos compartir nuestras ideas una vez que estén más adelante”, dijo DeepMind en un comunicado. “En lugar de cobrar por las primeras etapas de nuestro trabajo, nuestra primera prioridad ha sido demostrar que nuestras tecnologías pueden ayudar a mejorar la atención del paciente y reducir los costos”, añadió.
Huppert, en la entrevista, dijo que estaba contento de ver que DeepMind intentaba cobrar algo por su trabajo con el NHS porque quiere que sea sostenible. Pero también advirtió que DeepMind debe dejar que el NHS sepa lo antes posible cuál será ese modelo para que no se bloquee en un sistema que finalmente no puede pagar.
INTEROPERABLE
También aplaudió el compromiso de DeepMind de usar tecnología que se interoperable con los productos de otras compañías para que los hospitales del HNS puedan, si así lo desean, cambiar a un proveedor diferente sin causar mayores interrupciones.
La compañía también ha dicho en el pasado que no comparte datos con Alphabet o Google. Pero el panel dijo que DeepMind necesitaba proporcionar más claridad sobre esta política, ya que DeepMind almacena y procesa datos en los centros de datos de Google.
En general, Huppert dijo que estaba satisfecho con los esfuerzos de DeepMind. “Estamos tratando de mantener a DeepMind a un nivel muy alto y creemos que están haciendo un excelente trabajo en general”, comentó. También dijo que el panel de revisión había hecho que DeepMind se comprometiera con un conjunto de directores de 12 puntos sobre su trabajo que el panel puede usar para hacer que la empresa rinda cuentas en el futuro.
Jeremy Kahn para Bloomberg
