Umeå universitets logga

umu.sePublikationer
Ändra sökning
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Explicit stabilised gradient descent for faster strongly convex optimisation
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Institutionen för matematik och matematisk statistik.
2021 (Engelska)Ingår i: BIT Numerical Mathematics, ISSN 0006-3835, E-ISSN 1572-9125, Vol. 61, s. 119-139Artikel i tidskrift (Refereegranskat) Published
Abstract [en]

This paper introduces the Runge-Kutta Chebyshev descent method (RKCD) for strongly convex optimisation problems. This new algorithm is based on explicit stabilised integrators for stiff differential equations, a powerful class of numerical schemes that avoid the severe step size restriction faced by standard explicit integrators. For optimising quadratic and strongly convex functions, this paper proves that RKCD nearly achieves the optimal convergence rate of the conjugate gradient algorithm, and the suboptimality of RKCD diminishes as the condition number of the quadratic function worsens. It is established that this optimal rate is obtained also for a partitioned variant of RKCD applied to perturbations of quadratic functions. In addition, numerical experiments on general strongly convex problems show that RKCD outperforms Nesterov's accelerated gradient descent.

Ort, förlag, år, upplaga, sidor
Springer, 2021. Vol. 61, s. 119-139
Nyckelord [en]
Runge-Kutta methods, Strongly convex optimization, Accelerated gradient descent
Nationell ämneskategori
Beräkningsmatematik
Identifikatorer
URN: urn:nbn:se:umu:diva-173636DOI: 10.1007/s10543-020-00819-yISI: 000545282100001Scopus ID: 2-s2.0-85087566688OAI: oai:DiVA.org:umu-173636DiVA, id: diva2:1455036
Tillgänglig från: 2020-07-21 Skapad: 2020-07-21 Senast uppdaterad: 2021-07-02Bibliografiskt granskad

Open Access i DiVA

fulltext(4918 kB)394 nedladdningar
Filinformation
Filnamn FULLTEXT02.pdfFilstorlek 4918 kBChecksumma SHA-512
39ef104fb87da4d2a8d52fade3e7035c249615af61f5c02cdab3e6595eefbfc2499ee83cc3a19ee486c5882686dc5bd272a8e00d69b67dc147b33b2474cf1004
Typ fulltextMimetyp application/pdf

Övriga länkar

Förlagets fulltextScopus

Person

Eftekhari, Armin

Sök vidare i DiVA

Av författaren/redaktören
Eftekhari, Armin
Av organisationen
Institutionen för matematik och matematisk statistik
I samma tidskrift
BIT Numerical Mathematics
Beräkningsmatematik

Sök vidare utanför DiVA

GoogleGoogle Scholar
Totalt: 505 nedladdningar
Antalet nedladdningar är summan av nedladdningar för alla fulltexter. Det kan inkludera t.ex tidigare versioner som nu inte längre är tillgängliga.

doi
urn-nbn

Altmetricpoäng

doi
urn-nbn
Totalt: 553 träffar
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf