Umeå University's logo

umu.sePublikasjoner
Endre søk
RefereraExporteraLink to record
Permanent link

Direct link
Referera
Referensformat
  • apa
  • ieee
  • vancouver
  • Annet format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annet språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Explicit stabilised gradient descent for faster strongly convex optimisation
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Institutionen för matematik och matematisk statistik.
2021 (engelsk)Inngår i: BIT Numerical Mathematics, ISSN 0006-3835, E-ISSN 1572-9125, Vol. 61, s. 119-139Artikkel i tidsskrift (Fagfellevurdert) Published
Abstract [en]

This paper introduces the Runge-Kutta Chebyshev descent method (RKCD) for strongly convex optimisation problems. This new algorithm is based on explicit stabilised integrators for stiff differential equations, a powerful class of numerical schemes that avoid the severe step size restriction faced by standard explicit integrators. For optimising quadratic and strongly convex functions, this paper proves that RKCD nearly achieves the optimal convergence rate of the conjugate gradient algorithm, and the suboptimality of RKCD diminishes as the condition number of the quadratic function worsens. It is established that this optimal rate is obtained also for a partitioned variant of RKCD applied to perturbations of quadratic functions. In addition, numerical experiments on general strongly convex problems show that RKCD outperforms Nesterov's accelerated gradient descent.

sted, utgiver, år, opplag, sider
Springer, 2021. Vol. 61, s. 119-139
Emneord [en]
Runge-Kutta methods, Strongly convex optimization, Accelerated gradient descent
HSV kategori
Identifikatorer
URN: urn:nbn:se:umu:diva-173636DOI: 10.1007/s10543-020-00819-yISI: 000545282100001Scopus ID: 2-s2.0-85087566688OAI: oai:DiVA.org:umu-173636DiVA, id: diva2:1455036
Tilgjengelig fra: 2020-07-21 Laget: 2020-07-21 Sist oppdatert: 2021-07-02bibliografisk kontrollert

Open Access i DiVA

fulltext(4918 kB)394 nedlastinger
Filinformasjon
Fil FULLTEXT02.pdfFilstørrelse 4918 kBChecksum SHA-512
39ef104fb87da4d2a8d52fade3e7035c249615af61f5c02cdab3e6595eefbfc2499ee83cc3a19ee486c5882686dc5bd272a8e00d69b67dc147b33b2474cf1004
Type fulltextMimetype application/pdf

Andre lenker

Forlagets fulltekstScopus

Person

Eftekhari, Armin

Søk i DiVA

Av forfatter/redaktør
Eftekhari, Armin
Av organisasjonen
I samme tidsskrift
BIT Numerical Mathematics

Søk utenfor DiVA

GoogleGoogle Scholar
Totalt: 505 nedlastinger
Antall nedlastinger er summen av alle nedlastinger av alle fulltekster. Det kan for eksempel være tidligere versjoner som er ikke lenger tilgjengelige

doi
urn-nbn

Altmetric

doi
urn-nbn
Totalt: 553 treff
RefereraExporteraLink to record
Permanent link

Direct link
Referera
Referensformat
  • apa
  • ieee
  • vancouver
  • Annet format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annet språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf