Natural Language Processing to learn the language of the Human Genome

Información del proyecto

GROVER

Identificador del acuerdo de subvención: 101108109

DOI

10.3030/101108109

Fecha de la firma de la CE 8 Mayo 2023

Fecha de inicio 1 Septiembre 2024

Fecha de finalización 31 Agosto 2026

Financiado con arreglo a

• Marie Skłodowska-Curie Actions (MSCA)

Coste total

Sin datos

Aportación de la UE

€ 173 847,36

Coordinado por

TECHNISCHE UNIVERSITAET DRESDEN
Germany

Descripción del proyecto

Procesamiento del lenguaje natural para leer el genoma humano

Los modelos no supervisados de procesamiento del lenguaje natural (PLN) podrían favorecer avances revolucionarios a través del aprendizaje de la estructura del lenguaje. En este contexto, se requiere una comprensión más profunda de los aspectos lingüísticos de nuestro genoma. En el proyecto GROVER, financiado con fondos europeos, se considerará el genoma como una secuencia de texto para analizarlo con técnicas de PLN. Su equipo empleará la tokenización de pares de bytes para crear un vocabulario con secuencias de ADN y analizar mapas de atención a fin de dilucidar las relaciones de formación entre las diferentes «palabras» del genoma. También examinará las reglas del lenguaje utilizando métodos de lingüística de corpus. En GROVER se combinarán diferentes técnicas para investigar la gramática y la sintaxis del genoma, se efectuarán diferentes tareas de predicción biológica con modelos finamente ajustados y se aplicarán métodos para un aprendizaje interpretable. También se emplearán estrategias que reduzcan los sesgos étnicos para, en conjunto, revolucionar el análisis de datos genómicos.

Objetivo

Natural language processing (NLP) models trained on text without explicit supervision can have groundbreaking performance. They can develop a notion for grammar, syntax, and semantics, thus learning the structure of language. However, while we have defined the rules in our language, we only have a basic understanding about the linguistics of our genome. In this project, our goal is to treat the human genome as a sequence of text and apply NLP techniques to the human DNA sequence. We will establish byte-pair tokenization to generate vocabulary from DNA sequence and analyse attention maps to see the training relationship between different “words” of the genome. We will then further investigate the language rules using methods from corpus linguistics. Together, this will allow us to explore the grammar, syntax, and semantics hidden in the genome and capture their biological meaning. For proof-of-principle, we will perform several biological prediction tasks with fine-tuning models, built on top of the pretrained model. First, we will take popular genomic prediction tasks to benchmark our approach, such as predicting genome elements, transcription, and precision of genome editing. Then we will add some novel tasks around genome stability using available multi-omics data. Throughout the project we will implement techniques for interpretable learning and strategies to observe, control, and prevent ethnic biases in our approach.
We expect for large language models to change how we, as a scientific field, approach genomics data analysis and expect our models to establish how these techniques can be applied efficiently, transparently, and in a bias-reduced way. In addition to general understanding of genome biology, we plan to use our models in the future for technical improvements of data analysis, population genetics, and for translational uses with applications in cancer genomics and genome editing.

Ámbito científico (EuroSciVoc)

• humanidades › lenguas y literatura › lingüística
• ciencias naturales › ciencias biológicas › genética › ADN
• ciencias médicas y de la salud › medicina clínica › oncología
• ciencias naturales › ciencias biológicas › genética › genoma

Palabras clave

• Natural Language Processing
• Genomics
• Bioinformatics
• Machine Learning
• Genome Instability

Programa(s)

• HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA) PROGRAMA PRINCIPAL
  

Tema(s)

• HORIZON-MSCA-2022-PF-01-01 - MSCA Postdoctoral Fellowships 2022
  

Régimen de financiación

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Convocatoria de propuestas

HORIZON-MSCA-2022-PF-01

Coordinador

TECHNISCHE UNIVERSITAET DRESDEN

• Aportación neta de la UEn: € 173 847,36
• Dirección: HELMHOLTZSTRASSE 10 ; 01069 Dresden ; Alemania
• Región: Sachsen › Dresden › Dresden, Kreisfreie Stadt
• Tipo de actividad: Higher or Secondary Education Establishments
• Coste total: Sin datos