Cheat Sheet Materi 7

Model tak berpembatas: x=(x₁,…,x_n)^T, opt f(x).

Slide merinci cyclic coordinate dan gradient search; yang lain hanya disebut.

• n arah pencarian = vektor satuan sumbu: d_j = 1 di baris j, 0 lainnya. Untuk n=3: d₂=(0,1,0)^T
• y⁽¹⁾=x^(k) (awal iterasi k)

• Satu iterasi k: sumbu j=1..n berurutan; x^(k+1)=y⁽ⁿ⁺¹⁾ (n=3 → y⁽⁴⁾)
• Pencarian satu variabel setelah K iterasi = n·K (n=2, 3 iterasi → 6)
• λ_j boleh negatif

1. Langkah 0: ε>0, d₁…d_n, x⁽¹⁾, y⁽¹⁾=x⁽¹⁾, k=1, j=1
2. Langkah 1: cari λ_j; y^(j+1)=y^(j)+λ_jd_j. j<n → j=j+1, ulang; j=n → langkah 2
3. Langkah 2: x^(k+1)=y⁽ⁿ⁺¹⁾. Jika ‖x^(k+1)−x^(k)‖ < ε berhenti; else y⁽¹⁾=x^(k+1), j=1, k=k+1, ke langkah 1

‖v‖ = √(v₁²+v₂²). Tidak memakai gradien.

min f=(x₁−1)²+(2x₁−x₂)², ε=0,001, x⁽¹⁾=(0,0)

Sumbu 1: f(λ₁)=(λ₁−1)²+4λ₁² → f′=10λ₁−2=0 → λ₁=0,2, y⁽²⁾=(0,2;0)

Lanjut sampai ‖Δ‖<ε; optimum (1,2), f=0. λ negatif: dari (2,0), f(2+λ;0)=(1+λ)²+(4+2λ)² → λ₁=−1,8, y=(0,2;0). Dari (0,1;0,5): λ₁=0,3. Sumbu 2 di (0,5;1): f=0,25+λ₂² → λ₂=0. Catatan: slide menulis 0,707 untuk ‖Δ‖ k=1, tabel ringkasan 0,4472 (benar).

• Gradien ∇f(x) = (∂f/∂x_j) ; arah penurunan tercepat = −∇f (min) → steepest descent; maks: +∇f → steepest ascent †

1. 0: ε>0, x⁽¹⁾, k=1
2. 1: jika ‖∇f(x^(k))‖ < ε berhenti; else hitung d^(k)
3. 2: cari λ
4. 3: x^(k+1), k=k+1, ke 1

f=(x₁−1)²+(2x₁−x₂)²; ∇f=(10x₁−4x₂−2, −4x₁+2x₂)^T; ε=0,001; x⁽¹⁾=(0,0)

k=3: f(λ)=(λ−0,8)²+4λ² → 10λ−1,6=0 → λ=0,16

Di (1,1): ∇f=(4,−2), ‖∇f‖=√20≈4,472, d=(−0,894; 0,447). Di (1,2): ∇f=(0,0) → berhenti

Jalur sama dengan cyclic coordinate karena tiap ∇f hanya punya satu komponen ≠0 (−∇f searah sumbu); fungsi lain umumnya berbeda. Slide menulis √((−2)²+0²)=1,6 pada x⁽³⁾: seharusnya √((−1,6)²+0)=1,6.