Umeå universitets logga

umu.sePublikationer
Ändra sökning
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
doepipeline: a systematic approach to optimizing multi-level and multi-step data processing workflows
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Kemiska institutionen.ORCID-id: 0000-0002-4476-9255
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Kemiska institutionen. Corporate Research, Sartorius AG, Umeå, Sweden.ORCID-id: 0000-0001-7881-0968
Visa övriga samt affilieringar
2019 (Engelska)Ingår i: BMC Bioinformatics, E-ISSN 1471-2105, Vol. 20, nr 1, artikel-id 498Artikel i tidskrift (Refereegranskat) Published
Abstract [en]

Background: Selecting the proper parameter settings for bioinformatic software tools is challenging. Not only will each parameter have an individual effect on the outcome, but there are also potential interaction effects between parameters. Both of these effects may be difficult to predict. To make the situation even more complex, multiple tools may be run in a sequential pipeline where the final output depends on the parameter configuration for each tool in the pipeline. Because of the complexity and difficulty of predicting outcomes, in practice parameters are often left at default settings or set based on personal or peer experience obtained in a trial and error fashion. To allow for the reliable and efficient selection of parameters for bioinformatic pipelines, a systematic approach is needed.

Results: We present doepipeline, a novel approach to optimizing bioinformatic software parameters, based on core concepts of the Design of Experiments methodology and recent advances in subset designs. Optimal parameter settings are first approximated in a screening phase using a subset design that efficiently spans the entire search space, then optimized in the subsequent phase using response surface designs and OLS modeling. Doepipeline was used to optimize parameters in four use cases; 1) de-novo assembly, 2) scaffolding of a fragmented genome assembly, 3) k-mer taxonomic classification of Oxford Nanopore Technologies MinION reads, and 4) genetic variant calling. In all four cases, doepipeline found parameter settings that produced a better outcome with respect to the characteristic measured when compared to using default values. Our approach is implemented and available in the Python package doepipeline.

Conclusions: Our proposed methodology provides a systematic and robust framework for optimizing software parameter settings, in contrast to labor- and time-intensive manual parameter tweaking. Implementation in doepipeline makes our methodology accessible and user-friendly, and allows for automatic optimization of tools in a wide range of cases. The source code of doepipeline is available at https://github.com/clicumu/doepipeline and it can be installed through conda-forge.

Ort, förlag, år, upplaga, sidor
BioMed Central, 2019. Vol. 20, nr 1, artikel-id 498
Nyckelord [en]
Design of Experiments, Optimization, Sequencing, Nanopore, MinION, Assembly, Classification, Scaffolding, Variant calling
Nationell ämneskategori
Bioinformatik och beräkningsbiologi Bioinformatik (beräkningsbiologi)
Identifikatorer
URN: urn:nbn:se:umu:diva-164986DOI: 10.1186/s12859-019-3091-zISI: 000490501600003PubMedID: 31615395Scopus ID: 2-s2.0-85073473946OAI: oai:DiVA.org:umu-164986DiVA, id: diva2:1369182
Forskningsfinansiär
Knut och Alice Wallenbergs Stiftelse, 2011.0042Vetenskapsrådet, 2016-04376eSSENCE - An eScience CollaborationFörsvarsmaktenTillgänglig från: 2019-11-11 Skapad: 2019-11-11 Senast uppdaterad: 2025-02-05Bibliografiskt granskad
Ingår i avhandling
1. Synergies between Chemometrics and Machine Learning
Öppna denna publikation i ny flik eller fönster >>Synergies between Chemometrics and Machine Learning
2021 (Engelska)Doktorsavhandling, sammanläggning (Övrigt vetenskapligt)
Alternativ titel[sv]
Synergier mellan kemometri och maskininlärning
Abstract [en]

Thanks to digitization and automation, data in all shapes and forms are generated in ever-growing quantities throughout society, industry and science. Data-driven methods, such as machine learning algorithms, are already widely used to benefit from all these data in all kinds of applications, ranging from text suggestion in smartphones to process monitoring in industry. To ensure maximal benefit to society, we need workflows to generate, analyze and model data that are performant as well as robust and trustworthy.

There are several scientific disciplines aiming to develop data-driven methodologies, two of which are machine learning and chemometrics. Machine learning is part of artificial intelligence and develops algorithms that learn from data. Chemometrics, on the other hand, is a subfield of chemistry aiming to generate and analyze complex chemical data in an optimal manner. There is already a certain overlap between the two fields where machine learning algorithms are used for predictive modelling within chemometrics. Although, since both fields aims to increase value of data and have disparate backgrounds, there are plenty of possible synergies to benefit both fields. Thanks to its wide applicability, there are many tools and lessons learned within machine learning that goes beyond the predictive models that are used within chemometrics today. On the other hand, chemometrics has always been application-oriented and this pragmatism has made it widely used for quality assurance within regulated industries. 

This thesis serves to nuance the relationship between the two fields and show that knowledge in either field can be used to benefit the other. We explore how tools widely used in applied machine learning can help chemometrics break new ground in a case study of text analysis of patents in Paper I. We then draw inspiration from chemometrics and show how principles of experimental design can help us optimize large-scale data processing pipelines in Paper II and how a method common in chemometrics can be adapted to allow artificial neural networks detect outlier observations in Paper III. We then show how experimental design principles can be used to ensure quality in the core of concurrent machine learning, namely generation of large-scale datasets in Paper IV. Lastly, we outline directions for future research and how state-of-the-art research in machine learning can benefit chemometric method development.

Abstract [sv]

Tack vare digitalisering och automation genereras växande mängder data i alla möjliga former runtom i samhället, industrin och akademin. För att utnyttja dessa data på  bästa vis används redan idag så kallade datadrivna metoder, till exempel maskininlärning, i mängder av tillämpningar i allt ifrån förslag av nästa ord i SMS på smartphones till process-övervakning inom industri. För att maximera samhällsnyttan av den data som genereras behöver vi robusta och pålitliga arbetsflöden för att skapa, analysera och modellera data för alla tänkbara tillämpningar.

Det finns många vetenskapliga fält som utvecklar och utnyttjar datadrivna metoder, där två av dessa är maskininlärning och kemometri. Maskininlärning faller inom det som kallas artificiell intelligens och utvecklar algoritmer som lär sig från data. Kemometri däremot har sitt ursprung i kemi och utvecklar metoder för att generera, analysera och maximera värdet av komplexa kemiska data. Det finns ett visst överlapp mellan fälten där maskininlärnings-algoritmer används flitigt för prediktiv modellering inom kemometrin. Eftersom bägge fält försöker öka värdet av data och har vitt skilda bakgrunder finns det många potentiella synergieffekter. Tack vare att maskininlärning är så vida använt finns det många verktyg och lärdomar utöver dom prediktiva modeller som redan används inom kemometrin. Å andra sidan har kemometri alltid varit inriktat på praktisk tillämpning och har tack vare sin pragmatism lett till att det idag är välanvänt för kvalitetsarbete inom reglerad industri. 

Den här avhandlingen har som mål att nyansera förhållandet mellan kemometri och maskin-inlärning och visa att lärdomar inom vardera fält kan gynna det andra. Vi visar på hur man kan använda verktyg vanliga inom maskininlärning för att hjälpa kemometrin att bryta ny mark i en case-studie på textanalys av patentsamlingar i Paper I. Sedan lånar vi från kemometrin och visar hur vi kan använda experimentdesign för att optimera storskaliga beräkningsflöden i Paper II och hur en vanlig metod inom kemometrin kan formuleras om för att för att upptäcka avvikande mätningar i artificiella neuronnät i Paper III. Efter det visar vi hur principer från experimentdesign kan användas för att säkerställa kvalitet i kärnan av modern maskininlärning, nämligen skapandet av stora dataset i Paper IV. Till sist ger vi förslag på framtida forskning och hur de senaste metoderna inom maskin-inlärning kan gynna metodutveckling inom kemometrin.

Ort, förlag, år, upplaga, sidor
Umeå: Umeå Universitet, 2021. s. 50
Nyckelord
computational science, machine learning, chemometrics, multivariate data analysis, design of experiments, data science, beräkningsvetenskap, maskininlärning, kemometri, multivariat dataanalys, experimentdesign
Nationell ämneskategori
Annan kemi Bioinformatik och beräkningsbiologi Datavetenskap (datalogi)
Identifikatorer
urn:nbn:se:umu:diva-182683 (URN)978-91-7855-558-1 (ISBN)978-91-7855-559-8 (ISBN)
Disputation
2021-05-28, KBC Glasburen, KBC - building, Umeå, 09:00 (Engelska)
Opponent
Handledare
Forskningsfinansiär
eSSENCE - An eScience CollaborationStiftelsen för internationalisering av högre utbildning och forskning (STINT)Vetenskapsrådet, 2016‐04376
Tillgänglig från: 2021-05-07 Skapad: 2021-05-03 Senast uppdaterad: 2025-02-05Bibliografiskt granskad

Open Access i DiVA

fulltext(814 kB)371 nedladdningar
Filinformation
Filnamn FULLTEXT01.pdfFilstorlek 814 kBChecksumma SHA-512
8b95d52ce6ebeeceb90dff9d1edda7072500c9ed26eca854cb17e1978be6f765c676a37bd075b7b23467c353165051bf8bae7e9a0adb08f854e04c9525bc7973
Typ fulltextMimetyp application/pdf

Övriga länkar

Förlagets fulltextPubMedScopus

Person

Svensson, DanielSjögren, RickardTrygg, Johan

Sök vidare i DiVA

Av författaren/redaktören
Svensson, DanielSjögren, RickardTrygg, Johan
Av organisationen
Kemiska institutionen
I samma tidskrift
BMC Bioinformatics
Bioinformatik och beräkningsbiologiBioinformatik (beräkningsbiologi)

Sök vidare utanför DiVA

GoogleGoogle Scholar
Totalt: 371 nedladdningar
Antalet nedladdningar är summan av nedladdningar för alla fulltexter. Det kan inkludera t.ex tidigare versioner som nu inte längre är tillgängliga.

doi
pubmed
urn-nbn

Altmetricpoäng

doi
pubmed
urn-nbn
Totalt: 563 träffar
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf