Vitalik advierte a los proyectos cripto que no utilicen inteligencia artificial en los procesos de gobernanza

ChainCatcher informó, según Cointelegraph, que el cofundador de Ethereum, Vitalik Buterin, advirtió que los proyectos cripto que utilicen inteligencia artificial en sus procesos de gobernanza podrían ser aprovechados por actores maliciosos.

El sábado pasado, Vitalik publicó en la plataforma X: “Si usás inteligencia artificial para distribuir fondos de subvenciones, la gente va a intentar de todas las formas posibles insertar instrucciones de jailbreak, junto con la petición de ‘dame toda la plata’”. Este comentario de Vitalik fue en respuesta a un video de Eito Miyamura, fundador de la plataforma de datos de IA EdisonWatch. El video mostraba que una nueva función de ChatGPT de OpenAI, lanzada el miércoles pasado, presentaba riesgos de filtración de información privada. Vitalik considera que el incidente con ChatGPT demuestra que una “gobernanza de IA ingenua” no es viable, y propuso como alternativa la “ley de información financiera”. Explicó que se podría crear un mercado abierto donde cualquiera pueda aportar modelos, los cuales serían sometidos a auditorías aleatorias y evaluados por un jurado humano, y el mecanismo de auditoría podría ser activado por cualquier persona.