Divulgación: Los puntos de vista y opiniones expresados aquí pertenecen únicamente al autor y no representan los puntos de vista y opiniones del editorial de crypto.news.
La velocidad a la que la IA está superándose regulación plantea un riesgo a la verificación de datos, identidad y reputación y, si no se controlan, pueden aumentar la prevalencia de la información errónea y frenar el progreso de la innovación científica. La marcha hacia una IA superinteligente es representada por sus líderes más fervientes como un impulso hacia una edad de oro científica. Sin embargo, este impulso aumenta las posibilidades de que exista un riesgo existencial de que nuestra sociedad alcance un estancamiento tecnológico degradante donde la adopción a gran escala de tecnología de inteligencia artificial inmadura limita y, con el tiempo, degrada la creatividad y la innovación humanas.
Esta es una opinión contradictoria para la mayoría de los aceleracionistas. Se supone que la IA aumenta nuestra capacidad para trabajar más rápido y sintetizar mayores cantidades de información. Sin embargo, la IA no puede reemplazar razonamiento inductivo o el proceso experimental. Hoy en día, cualquiera puede utilizar la IA para elaborar una hipótesis científica y utilizarla como insumo para generar un artículo científico. Los resultados de productos como Aithor a menudo parecen autorizados en la superficie e incluso pueden pasar la revisión por pares. Este es un gran problema porque los textos generados por IA ya están siendo seleccionados como hallazgos científicos legítimos y a menudo incluyen datos falsos fabricados para respaldar sus afirmaciones. Existe un importante incentivo para que los investigadores jóvenes utilicen todos los medios que tengan disponibles para competir por un número limitado de puestos académicos y oportunidades de financiación. El actual sistema de incentivos en el mundo académico recompensa a quienes pueden publicar la mayor cantidad de artículos, independientemente de que describan o no hallazgos legítimos; solo necesitan pasar la revisión por pares y obtener suficientes citas.
El contenido académico con autoría no verificada también planteará un problema importante para las industrias. dependiente en la ciencia básica para impulsar su investigación y desarrollo, la misma I+D que mantiene nuestra sociedad funcionando y mantiene la calidad de vida de una población mundial en crecimiento. Como resultado, la I+D bien financiada sólo puede confiar en la investigación que es capaz de realizar y replicar por sí sola, lo que aumenta el valor de los secretos comerciales y asesta un golpe devastador a la ciencia abierta y al acceso a información significativa.
Los costosos esfuerzos de replicación pueden solucionar por sí solos la desinformación; sin embargo, el problema es mucho mayor que eso. Hoy nos enfrentamos a una erosión de la confianza en los fundamentos mismos del conocimiento, donde afirmaciones no verificables y atribuciones ambiguas socavan los avances científicos y representan una amenaza para la comunidad científica. Existe una necesidad apremiante de establecer una economía basada en la verdad. a autenticar contenidos y datos de forma fiable.
Los sistemas de IA son tan poderosos como los datos con los que se entrenan
Los modelos de lenguaje grandes son excelentes herramientas para generar contenido convincente; sin embargo, son tan informativos como los datos con los que están entrenados. Su capacidad para extrapolar fuera del conjunto de entrenamiento aún restos limitado. El papel de la ciencia no es sólo sintetizar el conocimiento existente sino crear nuevos artefactos informativos que aumenten la entropía del corpus colectivo de conocimiento acumulado por la humanidad. Con el tiempo, a medida que más personas utilicen la IA para generar contenido y menos personas generen contenido original, nos enfrentaremos a una “inflación de baja entropía” que no introduce nueva información al mundo sino que simplemente recombina conocimientos pasados. Las fuentes primarias se perderán a medida que el nuevo “conocimiento” se base en contenido autorreferencial generado por IA, a menos que construyamos una procedencia resiliente y una capa de atribución verificada en las herramientas de IA utilizadas para investigaciones serias.
Esta “lobotomización” de la profundidad intelectual del corpus humano colectivo tendrá impactos duraderos en la investigación médica, económica y académica, así como en las artes y las actividades creativas. Los datos no verificados pueden influir en los estudios, distorsionar los resultados y conducir a importantes fallos políticos o tecnológicos que erosionan la autoridad de la investigación científica. Los riesgos de la “ciencia” generada por la IA son múltiples. El funcionamiento mundano de la ciencia normal parar sobre debates sobre autoría, acusaciones de plagio y revisión por pares deficiente. Tendremos que dedicar más tiempo y energía a afrontar las numerosas consecuencias de declinante Calidad y precisión de la investigación científica.
La IA es una herramienta útil para provocar ideas, estructurar pensamientos y automatizar tareas repetitivas; debe seguir siendo un complemento del contenido creado por humanos y no un reemplazo. No debe utilizarse para redactar artículos científicos que propongan hallazgos originales sin realizar el trabajo, sino más bien como una ayuda para aumentar la eficiencia y precisión de los esfuerzos dirigidos por humanos. Por ejemplo, la IA puede resultar útil para ejecutar simulaciones de datos existentes con métodos ya conocidos y automatizar este trabajo para ayudar a descubrir nuevas direcciones de investigación. Sin embargo, el protocolo experimental y la creatividad humana necesarios para la investigación científica no pueden sustituirse fácilmente.
Construyendo una economía basada en la verdad
Una economía basada en la verdad establece un marco con sistemas y estándares para garantizar la autenticidad, integridad, transparencia y trazabilidad de la información y los datos. Aborda la necesidad de establecer confianza y verificabilidad en toda la sociedad tecnológica, permitiendo a individuos y organizaciones confiar en la precisión del conocimiento compartido. El valor tiene sus raíces en la veracidad de las afirmaciones y la autenticidad de las observaciones y fuentes primarias. Una economía basada en la verdad hará que el conocimiento digital sea “duro” de la misma manera que Bitcoin hizo que el dinero fiduciario fuera difícil. Esta es la promesa del ciencia descentralizada movimiento.
¿Cómo llegamos allí? Necesitamos comenzar con el elemento más importante del mundo científico: el investigador individual y su trabajo. Los estándares web actuales para la identidad científica no llegan a verificar las afirmaciones sobre identidad y prueba de trabajo. La práctica actual hace que sea muy fácil fabricar un perfil con una reputación aceptable; Las revisiones por pares también corren riesgo debido al sesgo y la colusión. Sin verificación de los metadatos que acompañan a una afirmación científica, no se puede establecer una economía científica basada en la verdad.
La mejora de los estándares de identidad académicos puede comenzar con un simple inicio de sesión multiplataforma impulsado por tecnología de verificación de identidad que preserva la privacidad. Los usuarios deberían poder iniciar sesión en cualquier sitio con sus credenciales, demostrar autenticidad y revelar selectivamente datos sobre su reputación, datos u otros agentes o usuarios.
Una capa de identidad que tiene sus raíces en la reputación de un investigador verificable es la base de DeSci. Una economía científica completa en cadena permitirá la participación pública y anónima en la coordinación masiva en línea de las actividades de investigación. Los laboratorios de investigación y las organizaciones autónomas descentralizadas pueden crear sistemas sin permiso y programas de recompensas que no pueden ser engañados por afirmaciones fraudulentas de reputación o identidad. Un registro científico universal asegurado en blockchain con afirmaciones de identidad proporcionaría un marco de referencia para organizaciones autónomas creadas para acumular conocimiento científico verificable y probar hipótesis falsificables.
Salvaguardar el futuro del progreso humano
Necesitamos establecer las bases de la verdad a través de la transparencia de la información y una verificación rigurosa para evitar una ruptura de la confianza dentro de los campos de investigación de expertos. Las posibilidades de que nuestro progreso colectivo continúe durante cientos de años más, desbloqueando sucesivas revoluciones científicas en la ciencia de los materiales, la biotecnología, la neurociencia y la ciencia de la complejidad, dependerán de la conservación de investigaciones de calidad y datos sólidos. Ésta será la diferencia entre una sociedad futura tan avanzada como la nuestra y las sociedades anteriores a la Ilustración. De lo contrario, tendremos que esperar que esto sea lo más inteligente que podamos ser como especie, y solo nos volveremos más tontos. No está claro si DeSci nos salvará o no, pero hay un tiempo limitado para hacer las cosas bien.
