Hola Gabriel, Muchas gracias por esta nueva entrega de Futopix; se siente el cuidado con el que cruzas antropología, mercados y futuros posibles, y eso la hace especialmente valiosa para quienes pensamos en diseño de sistemas y de tecnologías desde Colombia. A partir de lo que planteas sobre antropología y mercados, me quedó una duda: si en Colombia no logramos un cambio de fondo en la cultura sobre cómo se crea riqueza, valor y aumento de la productividad (la forma en que entendemos el riesgo, el ahorro, la inversión y el emprendimiento), ¿no terminaríamos sesgando desde el inicio la manera en que diseñamos un agente de IA entrenado con nuestros datos, narrativas y prácticas locales? Más concreto aún: ¿cómo podríamos diseñar un agente de IA “colombiano” que no solo aprenda de nuestra realidad económica y cultural, sino que también sea capaz de cuestionar y trascender esos sesgos sobre la creación de riqueza, en lugar de limitarse a reproducirlos
Hola Perzival, muchas gracias por leerme, la pregunta que haces es muy amplia y contiene elementos de inmenso valor. De antemano quiero hacer claro que no soy especialista en economía, en desarrollo de inversiones o cualquier cosa por el estilo, creo que hay gente muchísimo más experta que yo en el tema. Sin embargo, a continuación te dejo mi humilde opinión al respecto.
Todo lo que hacemos los humanos siempre tendrá sesgo. En antropología lo llamamos “filtros culturales”. No podemos producir nada sin tener una base subyacente de conocimiento en el tema. Los académicos escolares lo llaman “las escuelas de pensamiento”. Inicialmente todos hemos sido formados bajo una escuela de pensamiento, estas están representadas en nuestras universidades, colegios, país, ciudad y hasta en la casa. En estos lugares se cuecen narrativas que luego son transferidas a los estudiantes, a los ciudadanos, a los hijos; dichas narrativas van desde las opiniones personales de nuestros profesores hasta los pensums académicos que estos administran. Hace parte de la batalla cultural que todos damos y depende de nosotros descubrir los hilos que se mueven detrás de bambalinas para la construcción de cosmogonías hegemónicas. En este orden de ideas, el sesgo cultural es la huella que dejamos en la sociedad y en todas nuestras creaciones.
Ahora bien, para construir nuevas narrativas, o discursos que resuenen con el sistema de valores que vamos construyendo a medida que transitamos la vida, es fundamental desintoxicar y depurar la dieta de información que consumimos. Es una verdad de pulso que para aprender algo nuevo, lo más difícil es desaprender lo sabido. Yo no creo en las teorías totalizantes, porque con un solo caso que se salga de la fila, la teoría queda desvirtuada. Yo pienso que nuestro reto personal es construir teorías de alcance medio, continuas en lo que creemos y discontinuas en la periferia de lo que no hace parte de nuestro sistema de valores. En pocas palabras, si descubrimos argumentos que funcionen en el mundo de nuestras certezas, estarán bien para mí, pero no implica que estén bien para los demás. Lo que no puedo hacer es forzar a los demás a que crean en mi mundo de certezas, como dije antes, lo que es continuo para mí, puede ser discontinuo para otros. Ese es el principal problema de los sesgos culturales.
Ahora vamos a lo concreto, y esto ¿cómo impacta los desarrollos de agentes AIA? Como digo en esta toma 12, los agentes son extensiones de nuestra conciencia y conocimiento, por ello poseen de forma natural cierto nivel de sesgo, asunto que podemos ir curando a partir de una buena dieta de información. No podemos pretender que los agentes que creemos funcionen bien para todo el mundo y sean verdaderos en todos los casos. En este tema es importante entender que no diseñamos desde una perspectiva “One Size Fit ALL” (talla única), sino que por el contrario, lo que hacemos es un “One to Few”, tratamos de resolver problemas en nuestra zona de influencia. Esto es especialmente importante para los agentes conversacionales; los agentes autónomos son más fáciles de acotar y aun así podrían tener sesgos.
Alguien alguna vez me dijo “que mi problema es que yo quería salvar el mundo de un solo viaje”, pero ¡que eso no era posible! Entonces me recomendó comenzar salvando mi zona de influencia, que era un poco más fácil. Dicho esto, quiero concluir que siempre existira el sesgo en todo lo que hacemos, pero que dicho sesgo puede ser mitigado con una buena dieta de informacion con la que resonemos y simbolicamente nos conectemos, que nos produzca cierto placer en el significado, y si proyectamos esto en nuestra zona de influencia, lo mas seguro es que la gente que comparte nuestros valores adhiera y quienes no, simplemente se hagan de lado.
Queda mucho tema por conversar, por ejemplo el carácter arbitrario de la cultura…
Me encantó la estructura de creación del agente. Curiosamente esta semana escribi una fórmula para crear un proyecto Cyborg que es la inclusión de un agente en el proceso. Cyborg = pregunta + flujo + herramienta + prompt . Tu entrada me ayuda mucho para estructurar cada bloque dentro de la fórmula.
Gracias Gabriel por recordarnos que sin cultura, nuestros agentes son simples máquinas muy rápidas haciendo estupideces con estilo.
Hola Gabriel, Muchas gracias por esta nueva entrega de Futopix; se siente el cuidado con el que cruzas antropología, mercados y futuros posibles, y eso la hace especialmente valiosa para quienes pensamos en diseño de sistemas y de tecnologías desde Colombia. A partir de lo que planteas sobre antropología y mercados, me quedó una duda: si en Colombia no logramos un cambio de fondo en la cultura sobre cómo se crea riqueza, valor y aumento de la productividad (la forma en que entendemos el riesgo, el ahorro, la inversión y el emprendimiento), ¿no terminaríamos sesgando desde el inicio la manera en que diseñamos un agente de IA entrenado con nuestros datos, narrativas y prácticas locales? Más concreto aún: ¿cómo podríamos diseñar un agente de IA “colombiano” que no solo aprenda de nuestra realidad económica y cultural, sino que también sea capaz de cuestionar y trascender esos sesgos sobre la creación de riqueza, en lugar de limitarse a reproducirlos
Hola Perzival, muchas gracias por leerme, la pregunta que haces es muy amplia y contiene elementos de inmenso valor. De antemano quiero hacer claro que no soy especialista en economía, en desarrollo de inversiones o cualquier cosa por el estilo, creo que hay gente muchísimo más experta que yo en el tema. Sin embargo, a continuación te dejo mi humilde opinión al respecto.
Todo lo que hacemos los humanos siempre tendrá sesgo. En antropología lo llamamos “filtros culturales”. No podemos producir nada sin tener una base subyacente de conocimiento en el tema. Los académicos escolares lo llaman “las escuelas de pensamiento”. Inicialmente todos hemos sido formados bajo una escuela de pensamiento, estas están representadas en nuestras universidades, colegios, país, ciudad y hasta en la casa. En estos lugares se cuecen narrativas que luego son transferidas a los estudiantes, a los ciudadanos, a los hijos; dichas narrativas van desde las opiniones personales de nuestros profesores hasta los pensums académicos que estos administran. Hace parte de la batalla cultural que todos damos y depende de nosotros descubrir los hilos que se mueven detrás de bambalinas para la construcción de cosmogonías hegemónicas. En este orden de ideas, el sesgo cultural es la huella que dejamos en la sociedad y en todas nuestras creaciones.
Ahora bien, para construir nuevas narrativas, o discursos que resuenen con el sistema de valores que vamos construyendo a medida que transitamos la vida, es fundamental desintoxicar y depurar la dieta de información que consumimos. Es una verdad de pulso que para aprender algo nuevo, lo más difícil es desaprender lo sabido. Yo no creo en las teorías totalizantes, porque con un solo caso que se salga de la fila, la teoría queda desvirtuada. Yo pienso que nuestro reto personal es construir teorías de alcance medio, continuas en lo que creemos y discontinuas en la periferia de lo que no hace parte de nuestro sistema de valores. En pocas palabras, si descubrimos argumentos que funcionen en el mundo de nuestras certezas, estarán bien para mí, pero no implica que estén bien para los demás. Lo que no puedo hacer es forzar a los demás a que crean en mi mundo de certezas, como dije antes, lo que es continuo para mí, puede ser discontinuo para otros. Ese es el principal problema de los sesgos culturales.
Ahora vamos a lo concreto, y esto ¿cómo impacta los desarrollos de agentes AIA? Como digo en esta toma 12, los agentes son extensiones de nuestra conciencia y conocimiento, por ello poseen de forma natural cierto nivel de sesgo, asunto que podemos ir curando a partir de una buena dieta de información. No podemos pretender que los agentes que creemos funcionen bien para todo el mundo y sean verdaderos en todos los casos. En este tema es importante entender que no diseñamos desde una perspectiva “One Size Fit ALL” (talla única), sino que por el contrario, lo que hacemos es un “One to Few”, tratamos de resolver problemas en nuestra zona de influencia. Esto es especialmente importante para los agentes conversacionales; los agentes autónomos son más fáciles de acotar y aun así podrían tener sesgos.
Alguien alguna vez me dijo “que mi problema es que yo quería salvar el mundo de un solo viaje”, pero ¡que eso no era posible! Entonces me recomendó comenzar salvando mi zona de influencia, que era un poco más fácil. Dicho esto, quiero concluir que siempre existira el sesgo en todo lo que hacemos, pero que dicho sesgo puede ser mitigado con una buena dieta de informacion con la que resonemos y simbolicamente nos conectemos, que nos produzca cierto placer en el significado, y si proyectamos esto en nuestra zona de influencia, lo mas seguro es que la gente que comparte nuestros valores adhiera y quienes no, simplemente se hagan de lado.
Queda mucho tema por conversar, por ejemplo el carácter arbitrario de la cultura…
Saludos!
Me encantó la estructura de creación del agente. Curiosamente esta semana escribi una fórmula para crear un proyecto Cyborg que es la inclusión de un agente en el proceso. Cyborg = pregunta + flujo + herramienta + prompt . Tu entrada me ayuda mucho para estructurar cada bloque dentro de la fórmula.
Le acabo de hacer un pequeno tune up al artículo por qué omití un detalle. Gracias Don Darío por leer y comentar!