Sau một thời gian nghiên cứu thực hiện, luận văn đã hoàn
thành được những mục đích và nhiệm vụ như sau:
* Trình bày một số khái niệm, định lý về sự liên tục của hàm
nhiều biến; sơ lược phép tính vi phân hàm nhiều biến; điều kiện đạt
cực trị của hàm nhiều biến; ma trận và các tính chất liên quan; dẫn
nhập về hệ phương trình tuyến tính.
* Trình bày về nội dung của phương pháp bình phương nhỏ
nhất; bài toán phương pháp bình phương nhỏ nhất để xấp xỉ hàm
trong thực nghiệm; ưu điểm và hạn chế của phương pháp bình
phương nhỏ nhất trong mô hình tuyến tính và một số tiêu chuẩn đánh
giá mô hình tuyến tính. Ứng dụng của phương pháp bình phương nhỏ
nhất
26 trang |
Chia sẻ: ngoctoan84 | Lượt xem: 1134 | Lượt tải: 2
Bạn đang xem trước 20 trang tài liệu Luận văn Phương pháp bình phương nhỏ nhất và ứng dụng, để xem tài liệu hoàn chỉnh bạn click vào nút DOWNLOAD ở trên
BỘ GIÁO DỤC VÀ ĐÀO TẠO
ĐẠI HỌC ĐÀ NẴNG
PHẠM LÊ KIM THANH
PHƢƠNG PHÁP
BÌNH PHƢƠNG NHỎ NHẤT VÀ ỨNG DỤNG
Chuyên ngành: Phƣơng pháp toán sơ cấp
Mã số: 60. 46. 01.13
TÓM TẮT LUẬN VĂN THẠC SĨ KHOA HỌC
Đà Nẵng –Năm 2016
Công trình được hoàn thành tại
ĐẠI HỌC ĐÀ NẴNG
Người hướng dẫn khoa học: TS. LÊ HẢI TRUNG
Phản biện 1: TS. Lê Hoàng Trí
Phản biện 2: TS.Trịnh Đào Tiến
Luận văn đã được bảo vệ trước Hội đồng chấm Luận văn tốt
nghiệp thạc sĩ Khoa học tại Đại học Đà Nẵng vào ngày 13
tháng 8 năm 2016.
Có thể tìm hiểu luận văn tại:
- Trung tâm Thông tin – Học liệu, Đại học Đà Nẵng.
- Thư viện trường Đại học Sư phạm, Đại học Đà Nẵng
1
MỞ ĐẦU
1. Lý do chọn đề tài
Trong khoa học kỹ thuật chúng ta thường gặp rất nhiều bài
toán tối ưu hóa được quy về tìm cực trị của dạng bình phương ví dụ
như tìm cực tiểu của năng lượng hay tìm cực đại của entropy. Trong
toán học cũng như trong thực tế ta thường gặp các bài toán liên quan
đến khảo sát và tính giá trị của hàm ( )y f x nào đó. Tuy nhiên trong
thực tế không phải lúc nào ta cũng xác định được sẵn hàm số mà chỉ
nhận được các dữ liệu rời rạc ix tương ứng với giá trị .iy Vấn đề đặt
ra là xây dựng một hàm số biểu diễn cho các giá trị ( , )i ix y đã cho.
Có rất nhiều lớp các bài toán thực tế mà qua khảo sát người ta xác
định được nó có dạng tuyến tính như . ,y a x b hoặc
2. ,y a x bx c hoặc các mô hình phức tạp hơn. Có nhiều phương
pháp để xác định được các hàm đã nêu ví dụ như: Phương pháp nội
suy, Phương pháp bình phương nhỏ nhất, Phương pháp Picard Để
tìm hiểu về phương pháp xây dựng hàm số nêu trên và được sự gợi ý
của giáo viên hướng dẫn nên tôi đã lựa chọn đề tài « Phương pháp
bình phương nhỏ nhất và ứng dụng » cho luận văn thạc sĩ của
mình.
2. Mục tiêu nghiên cứu của đề tài
Mục tiêu của đề tài này là nghiên cứu về phương pháp bình
phương nhỏ nhất. Đồng thời, nghiên cứu ứng dụng phương pháp bình
phương nhỏ nhất vào các bài toán.
2
3. Đối tƣợng và phạm vi nghiên cứu
3.1. Đối tượng nghiên cứu
Nghiên cứu xây dựng mô hình tuyến tính bằng phương pháp
xấp xỉ bình phương nhỏ nhất.
3.2. Phạm vi nghiên cứu
Nghiên cứu từ các tài liệu, các giáo trình về phương pháp bình
phương nhỏ nhất của các tác giả liên quan.
Xây dựng các mô hình một biến, nhiều biến và đánh giá sự
tương hợp của mô hình.
4. Phƣơng pháp nghiên cứu
Nghiên cứu các tài liệu tham khảo liên quan đến đề tài, nắm
vững cơ sở lý thuyết, từ đó ứng dụng phần mềm Mathematica để mô
tả nghiệm (gần đúng) và tìm nghiệm gần đúng của bài toán. Trong
luận văn, các phương pháp sử dụng nằm trong các lĩnh vực sau đây:
Toán học giải tích, Giải tích hàm, Giải tích số, Quy hoạch thực
nghiệm, Thống kê toán học.
5. Bố cục đề tài
Ngoài phần mở đầu và kết luận, luận văn có 3 chương
Chương 1. Kiến thức chuẩn bị. Chương này trình bày một số
khái niệm, định lý về sự liên tục của hàm nhiều biến; sơ lược phép
tính vi phân hàm nhiều biến; điều kiện đạt cực trị của hàm nhiều
biến.
Chương 2. Phương pháp bình phương nhỏ nhất và ứng dụng.
Chương này trình bày về nội dung của phương pháp bình phương
3
nhỏ nhất; bài toán phương pháp bình phương nhỏ nhất để xấp xỉ hàm
trong thực nghiệm; ưu điểm và hạn chế của phương pháp bình
phương nhỏ nhất trong mô hình tuyến tính và một số tiêu chuẩn đánh
giá mô hình tuyến tính. Ứng dụng của phương pháp bình phương nhỏ
nhất.
6. Tổng quan tài liệu nghiên cứu
Nghiên cứu từ các tài liệu liên quan đến Toán học giải tích, Giải
tích hàm, Giải tích số, Quy hoạch thực nghiệm, Thống kê toán học và
các tài liệu liệu về phần mềm Mathematica của tác giả trong và ngoài
nước.
7. Ý nghĩa khoa học và thực tiễn của đề tài
Đề tài góp phần nghiên cứu phương pháp bình phương nhỏ
nhất và ứng dụng phù hợp với chuyên nghành Phương pháp toán sơ
cấp.
Sau khi cho phép bảo vệ, được sự góp ý của các thầy cô trong
hội đồng, luận văn có thể dùng làm tài liệu tham khảo cho sinh viên,
giáo viên, học sinh phổ thông và những đối tượng quan tâm lĩnh vực
này.
Do thời gian nghiên cứu không nhiều nên có thể còn một số
nội dung mà luận văn chưa đề cập đến. Tôi sẽ tiếp tục nghiên cứu và
bổ sung thường xuyên để nội dung luận văn được phong phú, và có
giá trị thực tiễn hơn.
4
CHƢƠNG 1
KIẾN THỨC BỔ TRỢ
1.1. SỰ LIÊN TỤC CỦA HÀM NHIỀU BIẾN
1.1.1. Rn và các tập con
1.1.2. Biểu diễn hình học của hàm hai biến số
1.1.3. Giới hạn của hàm nhiều biến số Z = f(x, y)
1.1.4. Sự liên tục của hàm số Z = f(x, y)
1.2. SƠ LƢỢC PHÉP TÍNH VI PHÂN CỦA HÀM NHIỀU BIẾN
1.2.1. Khái niệm mở đầu
a. Không gian nR
b. Khoảng cách, chuẩn trong nR
c. Lân cận, điểm tụ
1.2.2. Đạo hàm riêng
Định lý 1.1. (Định lý Schawartz). Nếu f(x, y) liên tục trên miền
mở 2E R có
đạo hàm cấp hai '' ( , ), '' ( , )xy yxf x y f x y liên tục tại điểm
0 0 0( , )P x y thì '' ( , ) '' ( , ).xy yxf x y f x y
1.3. ĐIỀU KIỆN ĐẠT CỰC TRỊ CỦA HÀM NHIỀU BIẾN
1.3.1. Cực trị tự do
a. Định nghĩa và điều kiện cần của cực trị
Định lý 1.2. Nếu ( , )f x y đạt cực trị tại M0 và có các đạo hàm
riêng tại đó thì các đạo hàm riêng bằng 0.
5
b. Điều kiện đủ của cực trị
Định lý 1.3. Giả sử ( , )f x y có đạo hàm riêng cấp hai liên tục
tại lân cận của điểm dừng 0 0( , )x y và gọi:
2 2
0 0 0 02
2
2
0 02
( , ), ( , ),
( , ), .
f f
A x y B x y C
x x y
f
x y B AC
y
Khi đó:
- Nếu > 0 thì hàm số không đạt cực trị tại 0 0( , ).x y
- Nếu = 0 thì chưa kết luận gì được về 0 0( , ).x y
- Nếu < 0 thì hàm số đạt cực trị tại 0 0( , ).x y
Cụ thể đạt cực đại nếu A 0.
1.3.2. Cực trị có điều kiện
a. Định nghĩa và điều kiện cần
b. Điều kiện đủ
1.4. MA TRẬN VÀ PHÉP TÍNH LIÊN QUAN
1.4.1. Ma trận
1.5. DẪN NHẬP VỀ HỆ PHƢƠNG TRÌNH TUYẾN TÍNH
1.5.1. Khái niệm chung
1.5.2. Hệ Cramer
1.5.3. Hệ phƣơng trình tuyến tính tổng quát
1.5.4. Hệ phƣơng trình tuyến tính thuần nhất
6
CHƢƠNG 2
PHƢƠNG PHÁP BÌNH PHƢƠNG NHỎ NHẤT
VÀ ỨNG DỤNG
2.1. NỘI DUNG PHƢƠNG PHÁP BÌNH PHƢƠNG NHỎ NHẤT
2.1.1. Khái niệm
Phương pháp bình phương nhỏ nhất (tối thiểu) là kĩ thuật ước
lượng thống kê được sử dụng phổ biến nhất trong các mô hình hồi
quy tuyến tính. Mục đích của phương pháp là từ các mẫu rời rạc quan
sát được trên thực nghiệm xác định một hàm biểu diễn gần đúng sự
phân phối của các mẫu đó, từ đó có thể ước lượng được các giá trị
chưa thể đo được trên thực tế.
Giả sử đã đo được các mẫu ( , )i ix y với i = 1,2,.,n. Mục đích
là xác định hàm ( )f x thỏa mãn : ( ) .i if x y
7
Giải sử hàm f có thể thay đổi hình dạng phụ thuộc vào một
hàm jp với j = 0,1,2,m, ( ) ( , ).jf x f p x
Sai số giữa giá trị thực và giá trị ước lượng theo hàm ( , )jf p x
tại .ix x
Xác định các giá trị jp sao cho biểu thức sau đạt giá trị cực
tiểu:
2 2
1
( ( )) min.
n
i i
i
x y f x
Điều này giải thích tại sao tên của phương pháp là bình
phương tối thiểu.
Đôi khi thay vì tìm giá trị n của tổng bình phương, người ta có
thể tìm giá trị nhỏ nhất của bình phương trung bình.
2 2
1
1
( ( )) ,
n
i i
i
x y f x
n
điều này dẫn đến tên gọi bình phương trung bình tối thiểu.
2.1.2. Lập công thức hồi quy dạng y a x b
Giả sử biết được n giá trị thực nghiệm ( 0,1,2,..., )iy i n của
hàm f(x) tại các điểm ix tương ứng. Tìm hàm xấp xỉ f(x) là một đa
thức cấp m có dạng ( ) .mp x a x b
Theo định nghĩa ta có.
2 2
1 1
( )
n n
i i i i
i i
S v a x b y
min.
Coi S là hàm số 2 biến a và b, như vậy S đạt cực tiểu tại điểm
mà đạo hàm của S theo a và b đồng thời bằng 0:
8
1
1
2 ( ) 0,
2 ( ) 0.
n
i i i i
i
n
i i i i
i
S
a x b y x
a
S
a x b y x
b
Rút gọn và chuyển vế ta có:
2
1 1 1
1 1
,
.
n n n
i i i i
i i i
n n
i i
i i
a x b x x y
a x b y
Giải ra ta được:
1 1 1
2 2
1 1
2
1 1 1 1
2 2
1 1
;
( )
.
( )
n n n
i i i i
i i i
n n
i i
i i
n n n n
i i i i i
i i i i
n n
i i
i i
n x y x y
a
n x x
n x x x x y
b
n x x
2.1.3. Hàm nhiều biến số
Giả sử rằng mối tương quan đại lượng ra y phụ thuộc tuyến
tính vào nhiều yếu tố đầu vào, như mòn dụng cụ cắt, phụ thuộc vào
vận tốc, áp lực, vật liệu cắt các chế độ khác
Giả thuyết rằng chúng có quan hệ tuyến tính với các thông số
vào ix , hàm số tương ứng sẽ là:
0 1 1 2 2
.... ... .i i k ky a a x a x a x a x
(2.1)
Sử dụng phương pháp bình phương nhỏ nhất các giá trị ia
9
sao cho:
2
0 1 0 1 1
1
( , ,..., ) ( ... )
n
k i k ik
i
S a a a y a a x a x
(2.2)
nhận giá trị nhỏ nhất.
Ta có hệ phương trình:
21
0 1
1
( , ,..., )
2 ( ... ) ,
n
o k
il i k ik
il
S a a a
x y a a a x
a
(2.3)
hay viết dưới dạng ma trận như sau.
10 20 1 1 1
2
0 1
0 1
... ...
. . . . .
. . . . . .
... ... ; . ,
. . . . . .
. . . . . .
... ...
i k
m m mi mk
n n ni nk n
x x x x y
y
X x x x x Y
x x x x y
trong đó: coi 0 1, 1, ,mx m n tức là coi a0 là hệ số của x0 luôn bằng 1.
Gọi XT là ma trận chuyển vị của ma trận X, nghĩa là
ij ( 1)( )
T T
k nX x là ma trận cấp 1 :k n
sao cho: ij .
T
jix x (2.4)
Sử dụng (2.3) vào ta có:
. . . .T TX X a X Y (2.5)
Phương trình này là phương trình cơ bản của phương pháp bình
phương nhỏ nhất, nó giúp ta xác định được các giá trị của ma trận
thông số .ia
10
0
1
.
k
a
a
a
a
(2.6)
Đặt XT.X = M, (2.7)
với M là ma trận vuông cấp k+1. Nếu det (M) 0 thì M là ma
trận khả nghịch, từ (2.3) ta có:
1
. 1,
. ,
T
T
M a X T
a M X Y
(2.8)
0 0
.
k n
jl
j jl i
l i
a m x y
(2.9)
2
0 1 ij
1 0
( ) ( , ..., ) ( ) ( ) ( ) ,
n k
T
k i j
i j
S a S a a a Y Xa Y Xa y x a
(2.10)
trong đó:
1 ij 1
0
nj
0
.
k
j
k
n n
j
y x a
Y Xa
y x a
(2.11)
Áp dụng cho hàm một biến
Giả thiết có mối tương quan bậc nhất:
0 1 .y a a x
Từ n thí nghiệm ta có bảng sau:
11
0
1 1
2 2
1 1
2 1
1 n n
n x x y
x y
x y
n x y
Tương ứng ta có ma trận:
1 1
2 2
1
1
; .
1 n n
x y
x y
X Y
x y
Ma trận M là:
1
12
1 2 2
1 1
2
1 11 1
2 2
1 1 1
1
2
1 2
1
1 1 ... 1 1
,
1
1
( ) ,
( )
1 1 ... 1
n
i
iT
n n
n
i i
i in
n n
i i
i iT
n n n
i i i
i i i
T
n
n
x
n x
x
M X X
x x x
x x
x
x x
M X X
n x x x n
y
y
y
X Y
x x x
y
1
1
.
n
i
i
n
i i
i
x y
Từ:
1
1
( . ) .( . ),
.( . ),
T T
T
a M X X Y
a M M Y
có
12
2
1 1 1 1
0 2
2
1 1
,
n n n n
i i i i i
i i i i
n n
i i
i i
y x x x y
a
n x x
(2.12)
1 1 1
1 2
2
1 1
.
n n n
i i i i
i i i
n n
i i
i i
n x y x y
a
n x x
Đặt:
2
2 2 2
1 1
( ). ; ( ) ,
n n
i i i
i i
n x x n x nx
(2.13)
1 1 1
; . ,
n n n
i i i ix y nxy x y nx ny
trong đó các giá trị
2 2; , , . , ( )x y x x y x là các giá trị trung bình cộng.
Ta có:
2
2 2
2
0
2 2
1
2 2
.1
,
.( ( )
,
( )
.
.
( )
x y x xy
a
xy x yn x x
y x x xy
a
x x
xy x y
a
x x
(2.14)
Đôi khi ta còn thực hiện tuyến tính hóa hàm phi tuyến nhiều
biến dạng: 31 2 20 1 2 3 ... .
aa a a
ny a x x x x
Logarit hai vế :
0 1 1 2 2ln ln ln ln ... lnn ny a a x a x a x bằng cách biến đổi
13
mới, ta được hàm tuyến tính nhiều biến số:
0 1 1 2 2 .... .n nY A a X a X a X
Sau khi tính toán, ta được 00
A
a e , còn tham số 1 2, ,... na a a
vẫn giữ nguyên với dạng đa thức:
2
0 1 2 ... ,
n
ny a a t a t a t
ta biến đổi mới
2 3
1 2 3
0 1 1 2 2
; ; ....;
... .
n
n
n n
x t x t x t x t
y a a x a x a x
Từ đó ta sử dụng hàm hồi quy nhiều biến tuyến tính để xác
định các tham số ai.
2.1.4. Công thức hồi quy tổng quát dạng đa thức bậc m
Giả sử biết được n giá trị thực nghiệm ( 0,1,2,...., )iy i n của f(x)
tại các điểm tương ứng. Tìm hàm xấp xỉ của f(x) là một đa thức cấp
m có dạng:
0 1( ) ... .
m
m mP x a a x a x
Khi đó các hệ số ( 0,1,2,..., )ia i n sẽ là nghiệm của phương
trình có dạng:
2
0 1 2
1 1 1 1
2 3 1
0 1 2
1 1 1 1 1
1 2 2
0 1 2
1 1 1 1 1
... ,
... ,
....
... .
n n n n
m
i i m i i
i i i i
n n n n n
m
i i i m i i i
i i i i i
n n n n n
m m m m m
i i i m i i
i i i i i
a n a x a x a x y
a x a x a x a x x y
a x a x a x a x x y
14
2 2
1 1 0 1
1 1
( ) .
n n m n
j
n i m i i j i i
i i i
y P x y a y x
n n
2.1.5. Bình phƣơng tối thiểu tuyến tính
2.2. BÀI TOÁN PHƢƠNG PHÁP BÌNH PHƢƠNG NHỎ NHẤT
ĐỂ XẤP XỈ HÀM TRONG THỰC NGHIỆM
2.2.1. Đặt vấn đề
Bài toán 2.1. (Tìm hàm xấp xỉ)
Giả sử đã biết các giá trị ( 1,2,..., )iy i n của hàm ( )y f x tại
các điểm tương ứng .ix x Tìm hàm ( )m x xấp xỉ với hàm ( )f x
trong đó: 1
0
( ) ( ),
m
m i
i
x a x
với ( )i x là những hàm đã biết, ia là những hệ số hằng số.
Trong khi giải quyết bài toán này cần chọn hàm ( )m x sao cho
quá trình tính toán đơn giản đồng thời những sai số i có tính chất
ngẫu nhiên (xuất hiện khi thu được các số liệu iy ) cần phải được
chỉnh lí trong quá trình tính toán. Trong bài toán tìm hàm xấp xỉ trên
việc chọn dạng của hàm xấp xỉ ( )m x là tùy thuộc vào ý nghĩa thực
tiễn của hàm ( ).f x
Bài toán 2.2. (Tìm các tham số của hàm có dạng đã biết)
Giả sử đã biết dạng tổng quát của hàm.
0 1( , , ,..., ).my f x a a a (2.15)
trong đó ( 0,1,..., )ia i m là những hằng số.
15
Giả sử qua thực nghiệm ta thu được n giá trị của hàm
( 1,2,..., )iy y i n ứng với các giá trị ix x của đối số. Vấn đề là từ
những số liệu thực nghiệm thu được cần xác định các giá trị của tham
số 0 1, ,..., ma a a để tìm được dạng cụ thể của biểu thức (2.15) ( )y f x
về sự phụ thuộc giữa y và x.
2.2.2. Sai số trung bình bình phƣơng và phƣơng pháp bình
phƣơng tối thiểu tìm xấp xỉ tốt nhất với một hàm
a. Sai số trung bình bình phương
Những hàm trong thực nghiệm thu được thường mắc phải
những sai số có tính chất ngẫu nhiên. Những sai số này xuất hiện do
sự tác động của những yếu tố ngẫu nhiên vào kết quả thực nghiệm để
thu được các giá trị của hàm. Chính vì lý do trên, để đánh giá sự sai
số khác nhau giữa hai hàm trong thực nghiệm ta cần đưa ra khái niệm
về sai số (hoặc độ lệch) sao cho một mặt nó chấp nhận được trong
thực tế, một mặt lại san bằng những sai số ngẫu nhiên (nghĩa là gạt
bỏ được những yếu tố ngẫu nhiên tác động vào kết quả của thực
nghiệm). Cụ thể nếu hai hàm thực chất khá gần nhau thì sai số chúng
ta đưa ra phải khá bé.
Khái niệm về sai số nói trên không chú ý tới kết quả có tính chất cá
biệt nên được gọi là sai số trung bình bình phương.
b. Định nghĩa
Theo định nghĩa ta sẽ gọi n là sai số (hoặc độ lệch) trung
bình bình phương của hai hàm ( )f x và ( )x trên tập
1 2, ,..., nX x x x , và được xác định bởi:
16
2
1
1
( ) ( ) .
n
n i i
i
f x x
n
(2.16)
c. Ý nghĩa của sai số trung bình bình phương
Để tìm hiểu ý nghĩa của sai số trung bình bình phương ta giả
thiết ( )f x và ( )x là những hàm liên tục trên đoạn ,a b và
1 2, ,..., nX x x x là tập hợp các điểm cách đều trên đoạn ,a b :
1 2 ... .na x x x b
Theo định nghĩa tích phân xác định ta có:
lim n , (2.17)
trong đó:
22 1 ( ) ( )
b
a
f x x dx
b a
(2.18)
Giả sử ( ) ( )f x x có trên đoạn ,a b một số hữu hạn cực trị
và là một số dương nào đó cho trước. Khi đó trên ,a b sẽ có k
đoạn riêng biệt ,i ia b ( 1,2,..., )i k sao cho:
( ) ( )f x x ( với , , 1,2,...,i ix a b i k ).
Gọi là tổng các độ dài của k đoạn nói trên.
Với n đủ lớn và n đủ bé, từ (2.17) ta suy ra ( bé tùy ý).
Từ (2.18) ta có:
2 22 2
1
( ) ( ) ( ) ( ) ( ) ,
i
i
bb k
ia a
b a f x x dx f x x dx
do đó:
17
2
( ) ,b a
nghĩa là tổng độ dài của các đoạn sẽ bé tùy ý.
Tóm lại với n đủ bé (n khá lớn) thì trên đoạn ,a b (trừ tại
những điểm của đoạn ,i ia b mà tổng độ dài bé tùy ý), ta có
( )f x x trong đó là một số dương tùy ý cho trước.
Từ nhận xét trên ta rút ra nhận ý nghĩa thực tiễn của sai số
trung bình bình phương như sau: Nếu sai số trung bình bình phương
n của hai hàm f(x) và ( )x trên tập hợp n điểm ,X a b (n đủ
lớn) mà khá bé thì với tuyệt đối đa số giá trị của x trên ,a b cho sai
số tuyệt đối giữa f(x) và ( )x khá bé.
2.2.3. Xấp xỉ hàm theo nghĩa trung bình phƣơng
2.3. ƢU ĐIỂM VÀ HẠN CHẾ CỦA PHƢƠNG PHÁP BÌNH
PHƢƠNG NHỎ NHẤT TRONG MÔ HÌNH TUYẾN
2.3.1. Ƣu điểm
2.3.2. Hạn chế
2.4. MỘT SỐ TIÊU CHUẨN ĐÁNH GIÁ MÔ HÌNH TUYẾN
TÍNH
2.4.1. Các tiêu chuẩn đánh giá
a. Mức ý nghĩa
b. Phân phối Student
Định lý 2.1. (Xem [1]) Cho t tuân theo luật phân phối Student
18
với n bậc tự do 1 .n Khi đó:
(i) Hàm mật độ t là:
1
1
2 02
1
12
( ) . , ( , ), ( ) .
.
12
n x
n
n
f t t n x e dx
n
n t
n
(ii) Với 1: ( ) 0( ( )n E t f t là hàm chẵn).
Với 2 : ( )
2
n
n D t
n
.
Định lý 2.2. (Xem [1]) Cho X tuân theo luật phân phối chuẩn
2
1 2( , ) , ( , ,..., ) ( 1)nN x x x n là mẫu của X. Khi đó đại lượng thống
kê .
x
t n
s
có phân phối Student với n-1 bậc tự do, trong đó
2 2
1
1
( ) .
1
n
k
k
s x x
n
c. Phân phối Fisher
Định lý 2.3. (Xem [1]) Cho biến ngẫu nhiên X có phân phối
1 2,
.n nF Khi đó:
(i) Hàm mật độ của X là
1
1 2
1
2
1 2 1
21
2 12
1 2 2
2
. 1 , 0.( )
2 2
0 , 0.
n
n n
n
n n n
n n
t t tf t n n n
t
19
2
2 2 1 2
2 22
2 1 2 2
2. .( 2)
( ) 2; ( ) , 4.
2 .( 4).( 2)
n n n n
E X n D X n
n n n n
Bây giờ ta cho
11 2
, ,..., nx x x là mẫu của X, 21 2, ,..., ny y y là mẫu
của Y và
1 1
2 1
2
2
1
1 11 1
2
2
2
1 12 2
1 1
; ,
1
1 1
; .
1
n n
i k
i k
n n
i k
i k
x x S x x
n n
y y S y y
n n
Định lý 2.4. (Xem [1]) Cho X và Y là các biến ngẫu nhiên độc
lập có phân phối chuẩn cùng phương sai (D(X) = D(Y)). Khi đó đại
lượng thống kê
2
1
2
2
s
F
s
có phân phối Fisher 1 1, 2 2.n nF
d. Chuẩn Cochran ( ,lt Pf nZ G )
Định lý 2.5. (Xem [6]) Phương sai mẫu của loạt dữ liệu j được
coi là một giá trị ở mức ý nghĩa α nếu Ct vượt quá giới hạn trên giá trị
quan trọng CUL. CUL phụ thuộc vào α mức ý nghĩa mong muốn, số
lượng được coi là hàng loạt dữ liệu N, và số lượng các điểm dữ liệu
(n) mỗi chuỗi dữ liệu. Lựa chọn các giá trị cho CUL đã được lập
bảng ở mức ý nghĩa α = 0.01, α = 0.025, và α = 0.05. CUL cũng có
thể được tính toán từ:
1
1
( , , ) 1 .
( ,( 1),( 1)( 1)c
N
CUL n N
F n N n
N
Trong đó
20
CUL : giới hạn trên giá trị quan trọng cho thử nghiệm một
chiều trên một thiết kế cân bằng.
α : mức ý nghĩa.
n : số điểm dữ liệu mỗi chuỗi dữ liệu.
Fc : giá trị quan trọng của tỷ lệ F Fisher; Fc có thể thu được từ
các bảng phân phối F hoặc sử dụng phần mềm máy tính cho chức
năng này.
2.4.2. Đánh giá kết quả nhận đƣợc bằng phƣơng pháp bình
phƣơng nhỏ nhất
a. Kiểm định các tham số aj và khoảng xác định sai lệch của
chúng
Khi hệ số ˆ ja nào đó quá nhỏ, ta có quyền nghi ngờ ˆ ja có thể
bằng không, tức là không tồn tại số hạng 1( ... )j kf x x trong hàm hồi
quy thu được. Tức là ˆ ja khác không do sai số ngẫu nhiên gây ra. Ta
cần kiểm định xem ˆ 0ja hay ˆ 0.ja
Nếu biểu thức sau tồn tại, tức là ˆ ja thực sự khác 0.
ˆ
( 1,1 ),
2
j
jj
du
a
t n m
S m
trong đó: Sdu là phương sai dư, tính theo S( ˆ ja ):
2 ˆ( ) ,
1
du
S a
s
n m
ở đây n là số thử nghiệm; m là số các thông số cần xác định, trừ
thông số 0 ,a
21
và ( 1,1 )
2
t n m
là phân vị
1
2
của luật phân bố Student với
( 1)n m bậc tự do.
Đồng thời ta có khoảng sai lệch của ˆ ja với độ tin cậy (1 )
là:
1 1
ˆ ˆ( 1; ) . ( 1; ).
2 2
jj jj
j du j j dua S m t n m a a S m x n m
với jjm là số hạng thứ jj của ma trận 1M ma trận nghịch đảo của ma
trận TM F F .
b. Kiểm tra bằng nhau của phương sai 2 ( )iD y
Các ước lượng 2 thường dùng chưa dựa vào một giả thiết nào
về dạng của mối quan hệ giữa biến ra y và biến vào xi. Khi thí
nghiệm được lặp lại r lần, phương sai của y khi đó gọi là phương sai
tái sinh, kí hiệu (Sts):
2 2 ( ).tsS D y
Nếu mỗi thí nghiệm i, xác định tại điểm thí nghiệm xi lặp lại r
lần giá trị đầu ra 1 ir... .iy y Tính
2 2
ij
1
1
( )
1
r
i i
j
S y y
r
trong đó
ij
1
1
.
r
i
j
y y
r
Phương sai tái sinh của biến ra y với số lần lặp lại r được định
nghĩa:
2 2 2
1 ij
1 1 1
1 1
( ) .
( 1)
n n r
ts i
i j
S S y y
n n r
22
Phương sai Sts có bậc tự do là n(r-1) được coi là một ước lượng
của 2 ( )D y nếu phương sai của y tại điểm thí nghiệm xi được coi
là như nhau.
Cần kiểm định giả thuyết đó theo tiêu chuẩn Cochran.
Giả sử biến ngẫu nhiên có
2
2
1
.i tn
i
max S
C
S
So sánh Ct với ( 1; ;1 )C r n bằng bảng phân vị Cochran.
Nếu ( 1; ;1 )tC C r n công nhận giả thiết Ho, có nghĩa là
phương sai của y gần đúng bằng 2.
Nếu ( 1; ;1 )tC C r n thì bác bỏ giả Ho, hay
2 của y khác
nhau.
c. Kiểm tra sự tương hợp của hàm hồi quy
Giả sử rằng : 2 2du tsS S thì ta có:
2
2
du
t
ts
S
F
S
tuân theo phân phối Fisher – Snedekor.
Nếu
2
2
( 1; ( 1);1 ),du
ts
S
F n m n r
S
thì bác bỏ sự tương hợp của hàm hồi quy với mức ý nhĩa . Ngược
lại nếu:
2
2
( 1; ( 1);1 )du
ts
S
F n m n r
S
23
thì coi như thực nghiệm chấp nhận hàm số hồi quy với mức ý nghĩa
. Sự chênh lệch của Ft và F nhiều hay ít, có sự tương hợp mạnh hay
yếu; cùng kết quả thực nghiệm cùng hồi quy, nhưng thay đổi mức ý
nghĩa có thể từ công nhận tương hợp sang không tương hợp.
d. Tìm khoảng sai lệch yi
0
( ... ).
m
j j i ik
j
y a f x x
Ta có
2 2 2( ) ,
iy i ii du ii
S D y u S u trong đó uii là số hạng thứ
ii của ma trận U, với:
1
ij
ij
0 0
. . ( ) .
( ) ( ).
T
n n
m m
ii j i j i
i j
U F M F u
u f x m f x
Tính tỷ số: ,i it
du ii
y y
t
S u
so sánh tt với t(n-m-1) bậc tự do theo phân phối Student, suy ra
khoảng sai lệch của y sẽ là:
1 1
( 1; ) ( 1; ).
2 2
i du ii i i du iiy S u t n m y y S u t n m
24
KẾT LUẬN
Sau một thời gian nghiên cứu thực hiện, luận văn đã hoàn
thành được những mục đích và nhiệm vụ như sau:
* Trình bày một số khái niệm, định lý về sự liên tục của hàm
nhiều biến; sơ lược phép tính vi phân hàm nhiều biến; điều kiện đạt
cực trị của hàm nhiều biến; ma trận và các tính chất liên quan; dẫn
nhập về hệ phương trình tuyến tính.
* Trình bày về nội dung của phương pháp bình phương nhỏ
nhất; bài toán phương pháp bình phương nhỏ nhất để xấp xỉ hàm
trong thực nghiệm; ưu điểm và hạn chế của phương pháp bình
phương nhỏ nhất trong mô hình tuyến tính và một số tiêu chuẩn đánh
giá mô hình tuyến tính. Ứng dụng của phương pháp bình phương nhỏ
nhất.
* Luận văn là một tài liệu tham khảo hữu ích cho bạn đọc yêu
thích tìm hiểu về nội dung phương pháp bình phương nhỏ nhất và
ứng dụng.
* Trong thời gian thực hiện luận văn không thể tránh khỏi
những sai sót, kính mong các thầy đóng góp ý kiến để luận văn thêm
hoàn thiện.
Các file đính kèm theo tài liệu này:
- phamlekimthanh_tt_1134_2084600.pdf