Google establece sus 7 mandamientos para el desarrollo de IA

El CEO de Google, Sundar Pichai, ha establecido en una carta los estándares de la compañía para el desarrollo controlado de herramientas de inteligencia artificial. Estos objetivos, explica, “regirán de manera activa nuestra investigación y desarrollo de productos e influirán en nuestras decisiones de negocio”.

Estos son los siete principios de Google para el desarrollo de IA:

Ser socialmente beneficiosa

El alcance ampliado de las nuevas tecnologías afecta cada vez más a la sociedad en general. Los avances en la IA tendrán impactos transformadores en una amplia gama de campos, que incluyen atención médica, seguridad, energía, transporte, fabricación y entretenimiento. Al considerar el desarrollo potencial y los usos de las tecnologías de inteligencia artificial, tomaremos en cuenta una amplia gama de factores sociales y económicos, y procederemos cuando creamos que los beneficios probables generales exceden sustancialmente los riesgos y las desventajas previsibles.

AI también mejora nuestra capacidad de comprender el significado del contenido a escala. Nos esforzaremos para que la información precisa y de alta calidad esté disponible fácilmente usando AI, mientras seguimos respetando las normas culturales, sociales y legales en los países donde operamos. Y continuaremos evaluando atentamente cuándo hacer que nuestras tecnologías estén disponibles de forma no comercial.

Evitar crear o reforzar un sesgo injusto

Los algoritmos y conjuntos de datos de AI pueden reflejar, reforzar o reducir los sesgos injustos. Reconocemos que distinguir los prejuicios justos de los injustos no siempre es simple, y difiere según las culturas y las sociedades. Trataremos de evitar impactos injustos en las personas, particularmente aquellos relacionados con características sensibles tales como raza, etnia, género, nacionalidad, ingresos, orientación sexual, capacidad y creencias políticas o religiosas.

Construido y probado con seguridad

Continuaremos desarrollando y aplicando sólidas prácticas de seguridad y protección para evitar resultados no intencionales que creen riesgos de daño. Diseñaremos nuestros sistemas de IA para que sean lo suficientemente prudentes y trataremos de desarrollarlos de acuerdo con las mejores prácticas en la investigación de seguridad de IA. En los casos apropiados, probaremos las tecnologías de inteligencia artificial en entornos restringidos y supervisaremos su funcionamiento después de la implementación.

Ser responsable ante las personas

Diseñaremos sistemas de inteligencia artificial que brinden oportunidades apropiadas para comentarios, explicaciones relevantes y atractivo. Nuestras tecnologías de IA estarán sujetas a la dirección y el control humano apropiado.

Incorporar principios de diseño de privacidad

Incorporaremos nuestros principios de privacidad en el desarrollo y uso de nuestras tecnologías de IA. Otorgaremos la oportunidad de recibir aviso y consentimiento, alentaremos las arquitecturas con garantías de privacidad y brindaremos transparencia y control apropiados sobre el uso de los datos.

Mantener altos estándares de excelencia científica

La innovación tecnológica tiene sus raíces en el método científico y el compromiso con la investigación abierta, el rigor intelectual, la integridad y la colaboración. Las herramientas de AI tienen el potencial de desbloquear nuevos ámbitos de investigación científica y conocimiento en dominios críticos como la biología, la química, la medicina y las ciencias ambientales. Aspiramos a altos estándares de excelencia científica a medida que trabajamos para progresar en el desarrollo de inteligencia artificial.

Trabajaremos con una variedad de partes interesadas para promover el liderazgo reflexivo en esta área, recurriendo a enfoques científicamente rigurosos y multidisciplinarios. Y compartiremos de forma responsable el conocimiento de AI mediante la publicación de materiales educativos, mejores prácticas e investigaciones que permitan a más personas desarrollar aplicaciones de IA útiles.

Estar disponible para usos que estén de acuerdo con estos principios

Muchas tecnologías tienen múltiples usos. Trabajaremos para limitar las aplicaciones potencialmente dañinas o abusivas. A medida que desarrollamos y desplegamos tecnologías de inteligencia artificial, evaluaremos los usos probables a la luz de los siguientes factores:

Propósito y uso primarios: el propósito principal y el uso probable de una tecnología y una aplicación, incluida la relación estrecha o adaptable a un uso nocivo de la solución

Naturaleza y singularidad: si estamos poniendo a disposición tecnología que es única o más generalmente disponible.