Sí,el coche autónomo es racista.sí,has leído bien.
-
ForoParalelo: Miembro
Sí,el coche autónomo es racista.sí,has leído bien.
El problema radicaría en una base fotográfica con pocas personas negras. Amazon o Google tienen problemas similares
Muchos gurús han advertido acerca de una Inteligencia Artificial que suponga un peligro real para la Humanidad. Bill Gates dijo que el mundo no ha presenciado muchas tecnologías que sean, a la vez, tan prometedoras y peligrosas". Elon Musk fue un paso más allá: "Con la inteligencia artificial estamos invocando al demonio". Vale, de acuerdo, no son exactamente científicos. Pues aquí tienen una frase de Stephen Hawking: "La inteligencia artificial puede significar el fin de la raza humana".
La Inteligencia Artificial se está aplicando en innumerables campos de la sociedad, muchas veces sin tener en cuenta los problemas que podría acarrear. Uno más de esos campos es, por supuesto, la automoción, una de las industrias más dinámicas e innovadoras de nuestra sociedad. Pero claro, "el que cacharrea, termina rompiendo" como decían nuestras abuelas y el automóvil no podía estar exento de cometer deslices en su evolución.
El último ha demostrado ser además bastante políticamente incorrecto. Científicos de la Universidad Tecnológica de Georgia -número 24 de entre las 151 universidades estadounidenses en un ranking de calidad establecido por reconocidos estudios del país norteamericano- han llevado a cabo un análisis de los resultados ofrecidos por los sistemas computacionales de reconocimiento visual de los peatones de los llamados ADAS o sistemas autónomos de ayuda a la conducción según el diferente tono de la piel. "El estudio ha sido motivado por muchos ejemplos recientes de cómo los sistemas de reconocimiento visual ofrecen mayores porcentajes de error en ciertos grupos demográficos que en otros".
Y sus conclusiones son desalentadoras por decirlo suavemente: las personas con los tonos de piel más oscuros son reconocidas como tales personas y no como objetos hasta en un 10% menos de ocasiones que las de piel clara según la habitual clasificación de tipos de piel de Fitzpatrick. Unos resultados alarmantes ahora que las pruebas de campo en la vida real comienzan a ser permitidas para la incipiente tecnología de los coches autónomos, sobre todo en Estados Unidos, pero también en otros lugares como algunos distritos en ciudades alemanas, autopistas suecas...
El problema llega cuando los algoritmos del sistema pueden llegar a actuar de forma diferente si el obstáculo que reconocen en su trayectoria es una persona -cuando harán lo posible por evitarla- o un objeto, en cuyo caso el algoritmo quizá "entienda" y evalúe el choque como un "daño menor" para sus pasajeros y para el resto de usuarios de la vía. Además, los resultados ofrecen tasas de error similares con dos diferentes métodos usados por dichos académicos, en los que han tenido en cuenta aspectos como la intensidad de la luz, la altura y complexión física de las personas o la oclusión de las cámaras.
Es más, en los casos en los que el reconocimiento debería ser peor -menos luz, cámaras parcialmente tapadas o peores circunstancias lumínicas- los porcentajes de error tienden a igualarse, mientras que cuando la visibilidad de la persona en mejor, los porcentajes empeoran, muestra de que es otra la causa de los errores de reconocimiento.
OTROS ERRORES SIMILARES EN AMAZON O GOOGLE
El automóvil no es el único caso en el que los sistemas de reconocimiento fallan. La Unión Americana de Libertades Civiles encontró que el sistema de Amazon reconoció erróneamente a miembros del Congreso estadounidense de piel oscura como delincuentes en busca y captura a lo largo de todo el país. Tampoco se libra el de Google, que falló gravemente al tratar de diferenciar personas negras de gorilas hace algún tiempo.
El origen se encuentra en el "aprendizaje" de estos sistemas basado en estadísticas sobre millones de fotografías "interiorizadas" en su memoria. Si las fotos son en un elevado porcentaje de personas blancas, el resultado es matemático: el coche las reconocerá mejor. Incrementar la base fotográfica a la que el sistema reacciona podría ser una forma de evitar el problema. Pero el automóvil tiene además otras ventajas para minimizar e incluso anular ese posible problema y son ventajas con nombre y apellidos y se llaman láser y lídar, técnicas de teledetección que usan la proyección de luz para formarse un mapa en tres dimensiones del mundo.
El último es, sobre todo, la gran esperanza de los coches autónomos debido al elevado nivel de detalle con el que es capaz de "reflejar" lo que sucede en su entorno. También los sistemas de análisis de datos son cada día más rápidos y la informática tendrá un salto cualitativo con la computación cuántica cuya velocidad a la hora de analizar datos es enormemente superior a la que tenemos en la actualidad y, sobre todo porque sus ventajas son especialmente eficientes en el campo del entrelazamiento de datos.
Por todo esto, la "seguridad" superior a la humana que supuestamente ofrece el coche autónomo podría no quedar en entredicho tal y como este estudio refleja. Pero el elevado coste de los sensores -los sistemas basado en cámaras son los más baratos- pone una nota preocupante acerca de si el coche autónomo será finalmente capaz de evitar discriminaciones por el color de la piel.
https://www.elmundo.es/motor/2019/03...c438b4632.html
PD:Sin comentarios 
-
ForoParalelo: Miembro
-
ForoParalelo: Miembro
Iniciado por
Cid36
El origen se encuentra en el "aprendizaje" de estos sistemas basado en estadísticas sobre millones de fotografías "interiorizadas" en su memoria. Si las fotos son en un elevado porcentaje de personas blancas
El estudio suena más falso que un duro de madera.
Los sistemas de visión artificial no consumen la imagen tal cual es.
Hay que filtrarla. Eso suponiendo que la cámara empleada sea de nuestro espectro.
A ver quién distingue la raza de un pavo visto con una cámara multiespectral,
o después de un canny.
Ahora va a resultar que los negros se ponen a jugar a la xbox y el kinect no les reconoce.
Ciencia pública, pagada por los contribuyentes, destinada a crear problemas donde no los hay, justificar políticas, y crear la alarma social que permita que fluyan las paguitas.
Llevo años dedicado a la visión artificial. Existen infinitud de problemas con ella. Pero ese no se encuentra en la lista.
-
Barcos y Putas
-
ForoParalelo: Miembro
Yo diría que el coche es inteligente.
-
ForoParalelo: Miembro
Menudo titular a lo OKdiario.
-
Barcos y Putas
Iniciado por
TheVinzzy
Yo diría que el coche es inteligente.
-
Detente Bala
Si atropello un negro entonces, no es mi culpa no ??
-
7 inch clit!
La solución es muy sencilla.
Se implementa el reconocimiento de chimpancés al software de la cámara e ya.
-
Azotaprogres
Tranquilos; en breve implementarán una excepción al software para añadir "discriminación positiva" y punto.
-
ForoParalelo: Miembro
Iniciado por
Tortu
Tranquilos; en breve implementarán una excepción al software para añadir "discriminación positiva" y punto.
Ese algoritmo quiero verlo yo.
Dilema del tranvía: un tranvía va a atropellar a tres personas si no cambia de vía, y a una sola si cambia.
¿Debe la CPU accionar la aguja de cambio de vías?.
Respuesta de la CPU: depende, ¿son blancos o negros?.
Es por eso que las máquinas jamas lograrán superar el Test de Turing. La humanidad se agilipolla más rápido de lo que los algoritmos pueden imitarla.
-
Humano y filantrópico
Iniciado por
Dark Gandalf
El estudio suena más falso que un duro de madera.
Los sistemas de visión artificial no consumen la imagen tal cual es.
Hay que filtrarla. Eso suponiendo que la cámara empleada sea de nuestro espectro.
A ver quién distingue la raza de un pavo visto con una cámara multiespectral,
o después de un canny.
Ahora va a resultar que los negros se ponen a jugar a la xbox y el kinect no les reconoce.
Ciencia pública, pagada por los contribuyentes, destinada a crear problemas donde no los hay, justificar políticas, y crear la alarma social que permita que fluyan las paguitas.
Llevo años dedicado a la visión artificial. Existen infinitud de problemas con ella. Pero ese no se encuentra en la lista.
-
ForoParalelo: Miembro
Iniciado por
Dark Gandalf
Ese algoritmo quiero verlo yo.
Dilema del tranvía: un tranvía va a atropellar a tres personas si no cambia de vía, y a una sola si cambia.
¿Debe la CPU accionar la aguja de cambio de vías?.
Respuesta de la CPU: depende, ¿son blancos o negros?.
Es por eso que las máquinas jamas lograrán superar el Test de Turing. La humanidad se agilipolla más rápido de lo que los algoritmos pueden imitarla.
También dijeron que una máquina jamás podría superar la abstracción del cerebro humano en lo que a ajedrez se refiere...
¿Has visto 'Ex Machina'?
Sí, sólo es una peli, pero me parecería interesante tu opinión al respecto si te apetece darla, claro está.
-
ForoParalelo: Miembro
Iniciado por
habiomX
También dijeron que una máquina jamás podría superar la abstracción del cerebro humano en lo que a ajedrez se refiere...
¿Has visto '
Ex Machina'?
Sí, sólo es una peli, pero me parecería interesante tu opinión al respecto si te apetece darla, claro está.
Hasta donde yo sé, el ajedrez de máquina es mera fuerza bruta.
Respecto a la zorra de ExMachina (por cierto, yo quiero una de esas. Aunque prefiero a la de AI Rising), no puedo entender que el cerebro humano sea algo más que un proceso de datos (nada de microtúbulos con partículas cuánticas entrelazadas con vete a saber qué conciencia universal), y por lo tanto opino que es artificialmente replicable. Con todo lo que conlleva: autoconciencia, emotividad, empatía, inteligencia, intuición, etc.
Yo creo que el problema es que muchos de esos constructos en realidad no existen. Y al tratar de replicarlos la cagamos.
Por ejemplo, dado el razonamiento A-B-C, nos creemos muy inteligentes porque a veces se nos ocurre C sin pasar por B.
¿Y si realmente el cerebro hiciera el proceso racional mecánico A-B-C sin que realmente seamos conscientes de B?.
Entonces estamos intentando replicar en una máquina una magia que no existe. No sé si me explico.
-
AutoBanned
Iniciado por
Dark Gandalf
Hasta donde yo sé, el ajedrez de máquina es mera fuerza bruta.
Respecto a la zorra de ExMachina (por cierto, yo quiero una de esas. Aunque prefiero a la de AI Rising), no puedo entender que el cerebro humano sea algo más que un proceso de datos (nada de microtúbulos con partículas cuánticas entrelazadas con vete a saber qué conciencia universal), y por lo tanto opino que es artificialmente replicable. Con todo lo que conlleva: autoconciencia, emotividad, empatía, inteligencia, intuición, etc.
Yo creo que el problema es que muchos de esos constructos en realidad no existen. Y al tratar de replicarlos la cagamos.
Por ejemplo, dado el razonamiento A-B-C, nos creemos muy inteligentes porque a veces se nos ocurre C sin pasar por B.
¿Y si realmente el cerebro hiciera el proceso racional mecánico A-B-C sin que realmente seamos conscientes de B?.
Entonces estamos intentando replicar en una máquina una magia que no existe. No sé si me explico.
supuestamente el qubit no va a cambiar todo eso? hice mis pinitos en c++ pero hablo desde la mas absoluta ignorancia
-
ForoParalelo: Miembro
Iniciado por
despotico
supuestamente el qubit no va a cambiar todo eso? hice mis pinitos en c++ pero hablo desde la mas absoluta ignorancia
No tengo nociones de informática cuántica.
Supongo ciertas ventajas para la criptografía y la velocidad de cálculo.
Pero no acabo de entender qué aportan los postulados cuánticos a un sistema de información.
-
ForoParalelo: Miembro
Iniciado por
Dark Gandalf
Hasta donde yo sé, el ajedrez de máquina es mera fuerza bruta.
Respecto a la zorra de ExMachina (por cierto, yo quiero una de esas. Aunque prefiero a la de AI Rising), no puedo entender que el cerebro humano sea algo más que un proceso de datos (nada de microtúbulos con partículas cuánticas entrelazadas con vete a saber qué conciencia universal), y por lo tanto opino que es artificialmente replicable. Con todo lo que conlleva: autoconciencia, emotividad, empatía, inteligencia, intuición, etc.
Yo creo que el problema es que muchos de esos constructos en realidad no existen. Y al tratar de replicarlos la cagamos.
Por ejemplo, dado el razonamiento A-B-C, nos creemos muy inteligentes porque a veces se nos ocurre C sin pasar por B.
¿Y si realmente el cerebro hiciera el proceso racional mecánico A-B-C sin que realmente seamos conscientes de B?.
Entonces estamos intentando replicar en una máquina una magia que no existe. No sé si me explico.
Sí, tienes razón. El ajedrez es un juego finito y, como tal, se puede resolver (cosa que aún no ha sucedido, pero llegará)
Ya no sólo se trata de fuerza bruta. En los programas modernos se aplican algoritmos que "simulan" la intuición y el aprendizaje, es decir, que la máquina aprende de sus/tus errores y modifica su juego para no tropezar dos veces.
Esa "magia" se denomina intuición: Facultad de comprender las cosas instantáneamente, sin necesidad de razonamiento. Percepción íntima e instantánea de una idea o una verdad que aparece como evidente a quien la tiene.
No necesitamos pasar por B para llegar a C desde A. Una máquina sí, de momento....
-
ForoParalelo: Miembro
Iniciado por
nonsi
Menudo titular a lo OKdiario.
Te ha llamado la atención y has entrado.Objetivo conseguido.
-
ForoParalelo: Miembro
Iniciado por
Dark Gandalf
El estudio suena más falso que un duro de madera.
Los sistemas de visión artificial no consumen la imagen tal cual es.
Hay que filtrarla. Eso suponiendo que la cámara empleada sea de nuestro espectro.
A ver quién distingue la raza de un pavo visto con una cámara multiespectral,
o después de un canny.
Ahora va a resultar que los negros se ponen a jugar a la xbox y el kinect no les reconoce.
Ciencia pública, pagada por los contribuyentes, destinada a crear problemas donde no los hay, justificar políticas, y crear la alarma social que permita que fluyan las paguitas.
Llevo años dedicado a la visión artificial. Existen infinitud de problemas con ella. Pero ese no se encuentra en la lista.
Pero queda chachi decir eso en el mundo pijoprogre actual.
-
ForoParalelo: Miembro
Iniciado por
poIitikon
Ya tenéis otro aliado
Más tonto eres tú qué te crees semejante gilipollez
-
ForoParalelo: Miembro
Iniciado por
nonsi
Menudo titular a lo OKdiario.
A mi me huele a titular de @Tortu... que APESTA!!
-
Azotaprogres
Iniciado por
Gigatron
A mi me huele a titular de @
Tortu... que APESTA!!
Todo el foro es @Tortu 
Cree el patetikon que todos son de su condición
-
ForoParalelo: Miembro
Iniciado por
Tortu
10 o 12 cuentas vi el otro dia en un hilo... que entraste tu y tus multis "a cacoporro"... si eso digo yo, cree el subnormal que son todos de su condicion. Por cierto, ElCid36 estaba en ese "comité de portesta"... pq será¿
No voy a ir poniendo caps ridiculas pero, cualquiera que se meta en tus hilos -yo me meto en todos- podrá comprobar LA GRAN SIMILITUD de posteo de las "noticias"... joder! son calcaditas. Es evidente que las ha hecho el mismo. Ya te tengo fichá otra cuenta. Te voy a degollar IJOPUTA.
-
Azotaprogres
Iniciado por
Gigatron
10 o 12 cuentas vi el otro dia en un hilo... que entraste tu y tus multis "a cacoporro"... si eso digo yo, cree el subnormal que son todos de su condicion. Por cierto, ElCid36 estaba en ese "comité de portesta"... pq será¿
No voy a ir poniendo caps ridiculas pero, cualquiera que se meta en tus hilos -yo me meto en todos- podrá comprobar LA GRAN SIMILITUD de posteo de las "noticias"... joder! son calcaditas. Es evidente que las ha hecho el mismo. Ya te tengo fichá otra cuenta. Te voy a degollar IJOPUTA.
Te digo lo que ya le dije a tu primer almamater hace tiempo: NO nos vamos a chupar las pollas, puto cuckold egocéntrico!
-
ForoParalelo: Miembro
Iniciado por
Tortu
Te digo lo que ya le dije a tu primer almamater hace tiempo: NO nos vamos a chupar las pollas, puto cuckold egocéntrico!
mariposón.
-
Liker
Iniciado por
Sexain Bolt
La solución es muy sencilla.
Se implementa el reconocimiento de chimpancés al software de la cámara e ya.
No sirve. Los chimpancés auténticos se sentirían discriminados, pues ellos son una especie protegida en peligro de extinción. En caso de dilema entre atropellar un negro o un chimpancé, el coche debería atropellar al negro, pero con tu solución, no sabría distinguir.
-
AutoBanned
Iniciado por
Tortu
Te digo lo que ya le dije a tu primer almamater hace tiempo: NO nos vamos a chupar las pollas, puto cuckold egocéntrico!
Preguntale si disfruto la metastasis, q a mi me tiene en ignorados ya 
-
ForoParalelo: Miembro
Iniciado por
habiomX
Sí, tienes razón. El ajedrez es un juego finito y, como tal, se puede resolver (cosa que aún no ha sucedido, pero llegará)
Ya no sólo se trata de fuerza bruta. En los programas modernos se aplican algoritmos que "simulan" la intuición y el aprendizaje, es decir, que la máquina aprende de sus/tus errores y modifica su juego para no tropezar dos veces.
Esa "magia" se denomina intuición: Facultad de comprender las cosas instantáneamente, sin necesidad de razonamiento. Percepción íntima e instantánea de una idea o una verdad que aparece como evidente a quien la tiene.
No necesitamos pasar por B para llegar a C desde A. Una máquina sí, de momento....
Piensa en cuando intuimos que hay alguien a nuestra espalda (y en ocasiones acertamos).
Mi opinión es que esa intuición es el resultado de un proceso de datos inconsciente,
basado en percepciones, recuerdos, y reglas, también inconscientes.
De forma que a nosotros (a nuestra consciencia) solo llega el resultado, una voz que te dice "hay alguien detrás",
pero nos queda oculto todo el proceso racional que ha producido esa conclusión.
Quizá la forma de dotar a una máquina de "alma" sea que ésta no sea plenamente consciente de su proceso de datos.
Que tenga "otras CPUs" independientes trabajando dentro que solo expongan los resultados: una especie de Pepito Grillo que le dice a la consciencia "tienes miedo", "te sientes triste", "o eso se resuleve si lo miras desde este otro lado".
Por eso opino que todas esas características que consideramos humanidad (inteligencia, emotividad, intuición, etc) son nada más que la ocultación interna a nuestra consciencia de los procesos deterministas que las causan.
-
m(o o)m
Que una persona de piel clara es mejor visible en la oscuridad es bastante obvio y no tiene que ver con racismo. La cuestión es cuantas personas de color son atropellado en el sur de los EEUU, no por coches autónomos sino por rednecks en su truck smoker con rifle detrás de los asientos.
Es algo falaz de hablar obre la seguridad de los coches autónomos, bastando que simplemente sean más seguros que un conductor humano
Última edición por Catweazle; 27/03/2019 a las 09:45
-
AutoBanned
Iniciado por
Catweazle
Que una persona de piel clara es mejor visible en la oscuridad es bastante obvio y no tiene que ver con racismo. La cuestión es cuantas personas de color son atropellado en el sur de los EEUU, no por coches autónomos sino por rednecks en su truck smoker con rifle detrás de los asientos.
Es algo falaz de hablar obre la seguridad de los coches autónomos, bastando que simplemente sean más seguros que un conductor humano
Pocos
Permisos de publicación
- No puedes crear nuevos temas
- No puedes responder temas
- No puedes subir archivos adjuntos
- No puedes editar tus mensajes
-
Reglas del foro
▲
▼
Atajos de Navegación Disponibles
Citar
