Microsoft solicita regulación federal para los «frenos de seguridad» en la IA

Brad Smith, vicepresidente y presidente de Microsoft Corporation, ha abordado los principios que Microsoft cree que deberían guiar el desarrollo de legislación para promover una IA segura y confiable.

A continuación se muestran algunos aspectos clave:

Responsabilidad en el desarrollo y la implementación de la IA

• Los humanos deben verificar los sistemas de inteligencia artificial para asegurarse de que estén funcionando correctamente.

• Las personas que crean y utilizan sistemas de IA deben ser responsables de sus acciones.
• Los sistemas de inteligencia artificial que toman decisiones importantes sobre las personas deberían revisarse más cuidadosamente.

Aprovechar los esfuerzos existentes

• Estados Unidos ya cuenta con algunos marcos de seguridad de IA que podemos utilizar como punto de partida.
• Estos marcos cubren diferentes partes del desarrollo y uso de la IA, por lo que pueden usarse juntos para garantizar que la IA se use de manera segura.

Reflejando la arquitectura técnica de la propia IA

• Cualquier nueva ley sobre IA debe tener en cuenta cómo funciona la IA.
• Esto significa que las leyes deben ser lo suficientemente flexibles para cambiar a medida que cambia la tecnología de IA.

Áreas prioritarias para la regulación y supervisión federal

• Deberíamos exigir “frenos de seguridad” para los potentes sistemas de IA que se utilizan en lugares importantes, como las redes eléctricas y los hospitales.
• También deberíamos exigir a los desarrolladores de IA que sepan con quién están trabajando, dónde se almacenan sus datos y qué tipo de contenido utilizan sus sistemas.
• Deberíamos asegurarnos de que la IA se utilice para mejorar los servicios gubernamentales, como la atención sanitaria y la educación.

El mes pasado, Smith publicó otro blog en el que presentaba planes para una gobernanza responsable de la IA en la India.

Estamos particularmente interesados ​​en exigir “frenos de seguridad” para modelos de IA altamente capaces en infraestructuras críticas. Esto parece sensato para mitigar los riesgos de que estos sistemas se utilicen con fines maliciosos. Esperamos seguir el progreso del proceso legislativo y ver cómo el gobierno puede trabajar para garantizar que la IA se utilice para siempre.