>>152550Diríamos que en los datos de entrenamiento, sin embargo últimamente se están usando los modelos Z-image o el Chroma, pero aquí creo que hay de 2:
1. En los datasets había contenido ilegal
2. Lo modelos han evolucionado lo suficiente para simular exactamente lo que le pides
Recordemos que el truco de estos modelos no es tanto entrenarlos para que cuando se le pida cosa A, ponga cosa A (eso es trabajo de los loras), si no que en cierta manera simulan un mundo virtual donde cada vez la optimización de esto esta haciendo que los pequeños detalles sean más concisos.
Creo que tu pregunta puede atenderse con un ejemplo más sencillo, y es que las lolis 2D ya son consideradas contenido CSAM en ciertos países como Canada y la pregunta sigue siendo valida.
¿No se limita la libertad de expresión?
¿No se supone que, existiendo una buena regulación, el contenido inmoral y políticamente incorrecto debería ser consumido únicamente por personas competentes? (vamos, a lo que le llaman adultos)
¿No es responsabilidad del consumidor diferenciar la realidad de la ficción?, es como decir que deberían de prohibir las películas de Rambo por que no faltara el tipo que se crea Rambo
¿La existencia de este contenido promueve o evita el abuso infantil?
Y me temo que contestar estar preguntas se pueden extrapolar a cosas más delicadas como el papel del entretenimiento en la sociedad actual, o la falta de atención critica de las autoridades, y ojo que tampoco estoy a la defensiva de este contenido, yo mismo me ando realizando estos cuestionamientos por lo que me paso (>>152470), y sería interesante ver lo que la academia podría decir de ello.