Lo mas relevante
En: Internacional  //
Microsoft pide que incluyan frenos de seguridad en programas de inteligencia artificial Especial

Microsoft pide que incluyan frenos de seguridad en programas de inteligencia artificial

En una entrada de blog publicada el jueves, Smith hizo hincapié en la necesidad de rendir cuentas

¡Síguenos!
Visitas: 378

Reuters.- El presidente de Microsoft, Brad Smith, pidió el jueves que las personas que están detrás de la inteligencia artificial (IA) rindan cuentas por sus deficiencias e instó a los legisladores a garantizar que se pongan frenos de seguridad sobre la IA utilizada para controlar la red eléctrica, el suministro de agua y otras infraestructuras críticas.

Durante semanas, los legisladores de Washington han debatido sobre qué leyes aprobar para controlar la IA, incluso cuando empresas grandes y pequeñas se han apresurado a introducir en el mercado una IA cada vez más versátil.

 

“Se trata de la necesidad fundamental de garantizar que las máquinas sigan estando sujetas a la supervisión efectiva de las personas y que las personas que diseñan y manejan las máquinas sigan siendo responsables ante todos los demás. En resumen, debemos asegurarnos siempre de que la IA permanece bajo control humano”, escribió.

Como parte de un plan de cinco puntos para la gobernanza pública de la IA, Smith instó a prestar especial atención a la red eléctrica, los sistemas de abastecimiento de agua y otras infraestructuras críticas. “Nuevas leyes requeriría a los operadores de estos sistemas a incorporar frenos de seguridad en el diseño de los sistemas de IA de alto riesgo”, escribió en el blog.

Instó a utilizar un sistema del tipo “Conozca a su cliente” para que los desarrolladores de potentes modelos de IA controlen cómo se utiliza su tecnología e informen al público de los contenidos que crea la IA para que puedan identificar los videos falsos.

La semana pasada, Sam Altman, presidente ejecutivo de OpenAI, la startup que está detrás de ChatGPT, dijo a una comisión del Senado, en su primera comparecencia ante el Congreso, que el uso de la inteligencia artificial para interferir en la integridad de las elecciones es un “importante motivo de preocupación”, y añadió que es necesario regularlo.

 

Altman, cuya OpenAI cuenta con el respaldo de Microsoft, también pidió cooperación mundial en materia de IA e incentivos para el cumplimiento de las normas de seguridad.

Algunas de las propuestas que se están estudiando en el Capitolio se centrarían en la IA que puede poner en peligro la vida o el sustento de las personas, como en medicina y finanzas. Otros abogan por normas que garanticen que la IA no se utiliza para discriminar o violar los derechos civiles.

Esta preocupación ha dado lugar a una serie de reuniones, como la visita este mes a la Casa Blanca de los presidentes ejecutivos de OpenAI, Microsoft y Alphabet, los que se reunieron con el mandatario Joe Biden.

Tipo de Cambio
Licencia Creative Commons
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 2.5 México.

Las ideas y opiniones expuestas en esta publicación son las propias de los autores y no reflejan necesariamente las
opiniones de la Dirección General y de la Dirección de Contenidos asi como de Virtual Noticias México.
virtualpuebla.com
Copyright © Todos los derechos reservados Virtual Puebla

virtualpuebla.com Facebook Youtube Twitter