Google refuerza control sobre temas sensibles
Este año 2020, Google de Alphabet Inc se movió para reforzar el control sobre los artículos de sus científicos al lanzar una revisión de “temas sensibles”, y en al menos tres casos solicitó a los autores que se abstuvieran de proyectar su tecnología en una luz negativa, según comunicaciones internas y entrevistas con los investigadores involucrados. en el trabajo.
El nuevo procedimiento de revisión de Google solicita a los investigadores que consulten con los equipos legales, de políticas y de relaciones públicas antes de abordar temas como el análisis de rostros y sentimientos y las categorizaciones de raza, género o afiliación política, según las páginas web internas que explican la política.
“Los avances en tecnología y la creciente complejidad de nuestro entorno externo están conduciendo cada vez más a situaciones en las que proyectos aparentemente inofensivos plantean problemas éticos, de reputación, regulatorios o legales”, afirmó una de las páginas para el personal de investigación. Reuters no pudo determinar la fecha de la publicación, aunque tres empleados actuales dijeron que la política comenzó en junio.
Google se negó a comentar sobre esta historia.
El proceso de “temas sensibles” agrega una ronda de escrutinio a la revisión estándar de documentos de Google en busca de escollos como la divulgación de secretos comerciales, dijeron ocho empleados actuales y anteriores.
Para algunos proyectos, los funcionarios de Google han intervenido en etapas posteriores. Un gerente senior de Google que revisó un estudio sobre tecnología de recomendación de contenido poco antes de su publicación este verano dijo a los autores que “tengan mucho cuidado de lograr un tono positivo”, según la correspondencia interna leída a Reuters.
El gerente agregó: “Esto no significa que debamos escondernos de los desafíos reales” que plantea el software.
La correspondencia posterior de un investigador a los revisores muestra a los autores “actualizados para eliminar todas las referencias a los productos de Google”. Un borrador visto por Reuters mencionaba a YouTube, propiedad de Google.
Cuatro investigadores del personal, incluida la científica senior Margaret Mitchell, dijeron que creen que Google está comenzando a interferir con estudios cruciales sobre posibles daños tecnológicos.
“Si estamos investigando lo apropiado dada nuestra experiencia, y no se nos permite publicar eso por motivos que no están en línea con la revisión por pares de alta calidad, entonces nos estamos metiendo en un serio problema de censura”, dijo Mitchell.
Google afirma en su sitio web público que sus científicos tienen una libertad “sustancial”.
Las tensiones entre Google y parte de su personal surgieron este mes después de la abrupta salida del científico Timnit Gebru, quien dirigió un equipo de 12 personas con Mitchell centrado en la ética en el software de inteligencia artificial (IA).
Gebru dice que Google la despidió después de que cuestionara una orden de no publicar una investigación que afirmaba que la inteligencia artificial que imita el habla podría perjudicar a las poblaciones marginadas. Google dijo que aceptó y aceleró su renuncia. No se pudo determinar si el artículo de Gebru se sometió a una revisión de “temas sensibles”.
El vicepresidente senior de Google, Jeff Dean, dijo en un comunicado este mes que el artículo de Gebru se detuvo en los daños potenciales sin discutir los esfuerzos que se están realizando para abordarlos.
Dean agregó que Google apoya la erudición sobre ética de la IA y está “trabajando activamente para mejorar nuestros procesos de revisión de documentos, porque sabemos que demasiados controles y contrapesos pueden volverse engorrosos”.
“TEMAS SENSIBLES”
La explosión en la investigación y el desarrollo de la inteligencia artificial en la industria de la tecnología ha llevado a las autoridades de Estados Unidos y otros lugares a proponer reglas para su uso. Algunos han citado estudios científicos que muestran que el software de análisis facial y otra inteligencia artificial pueden perpetuar los prejuicios o erosionar la privacidad.
Google en los últimos años incorporó IA en todos sus servicios, utilizando la tecnología para interpretar consultas de búsqueda complejas, decidir recomendaciones en YouTube y autocompletar oraciones en Gmail. Sus investigadores publicaron más de 200 artículos en el último año sobre el desarrollo responsable de IA, entre más de 1,000 proyectos en total, dijo Dean.
