Uvod u Conjugate Gradient
Conjugate Gradient je metoda između naj strme metode spuštanja i Newtonova metoda. Treba koristiti samo prve informacije o derivatima, ali prevazilazi nedostatke spore konvergence naj strme metode spuštanja i izbjegava potrebu za skladištenjem u Newton-ovoj metodi. Pored nedostataka izračunavanja Hesseove matrice i pronalaženja inverznog, metoda veznog gradijenta nije samo jedna od najkorisnijih metoda za rješavanje velikih linearnih jednačina, već i jedan od najucinkovitijih algoritama za rješavanje velike nelinearne optimizacije.