Phương pháp bình phương tối thiểu ba chiều. Xấp xỉ dữ liệu thực nghiệm

Tìm thấy ứng dụng rộng rãi nhất trong các lĩnh vực khoa học và thực hành khác nhau. Nó có thể là vật lý, hóa học, sinh học, kinh tế học, xã hội học, tâm lý học, v.v. Theo ý muốn của số phận, tôi thường phải đối phó với nền kinh tế, và do đó hôm nay tôi sẽ sắp xếp cho bạn một vé đến một đất nước tuyệt vời tên là kinh tế lượng=) … Làm thế nào để bạn không muốn điều đó?! Ở đó rất tốt - bạn chỉ cần quyết định! …Nhưng điều chắc chắn bạn muốn là học cách giải quyết vấn đề bình phương nhỏ nhất. Và những độc giả đặc biệt siêng năng sẽ học cách giải chúng không chỉ CHÍNH XÁC mà còn RẤT NHANH ;-) Nhưng trước tiên tuyên bố chung của vấn đề+ Ví dụ liên quan:

Hãy để các chỉ số được nghiên cứu trong một số lĩnh vực chủ đề có biểu thức định lượng. Đồng thời, có mọi lý do để tin rằng chỉ báo phụ thuộc vào chỉ báo. Giả định này có thể vừa là giả thuyết khoa học vừa dựa trên lẽ thường cơ bản. Tuy nhiên, hãy để khoa học sang một bên và khám phá những lĩnh vực ngon miệng hơn - cụ thể là các cửa hàng tạp hóa. Biểu thị bởi:

– không gian bán lẻ của một cửa hàng tạp hóa, m2,
- doanh thu hàng năm của một cửa hàng tạp hóa, triệu rúp.

Rõ ràng là diện tích của cửa hàng càng lớn thì doanh thu của nó trong hầu hết các trường hợp càng lớn.

Giả sử rằng sau khi tiến hành quan sát / thí nghiệm / tính toán / khiêu vũ với tambourine, chúng ta có sẵn dữ liệu số:

Với các cửa hàng tạp hóa, tôi nghĩ mọi thứ đều rõ ràng: - đây là khu vực của cửa hàng thứ nhất, - doanh thu hàng năm của nó, - khu vực của cửa hàng thứ 2, - doanh thu hàng năm của nó, v.v. Nhân tiện, không nhất thiết phải có quyền truy cập vào các tài liệu được phân loại - có thể đánh giá khá chính xác doanh thu bằng cách sử dụng thống kê toán học. Tuy nhiên, đừng để bị phân tâm, quá trình gián điệp thương mại đã được trả tiền =)

Dữ liệu dạng bảng cũng có thể được viết dưới dạng điểm và được mô tả theo cách thông thường đối với chúng tôi. hệ Descartes .

Hãy trả lời một câu hỏi quan trọng: bao nhiêu điểm là cần thiết cho một nghiên cứu định tính?

Càng to càng tốt. Bộ chấp nhận tối thiểu bao gồm 5-6 điểm. Ngoài ra, với lượng dữ liệu ít, không nên đưa các kết quả “bất thường” vào mẫu. Vì vậy, ví dụ, một cửa hàng nhỏ dành cho giới thượng lưu có thể giúp thực hiện các đơn đặt hàng lớn hơn so với “đồng nghiệp của họ”, do đó làm sai lệch mô hình chung cần tìm!

Nếu nó khá đơn giản, chúng ta cần chọn một chức năng, lịch trình mà đi càng gần càng tốt với các điểm . Một chức năng như vậy được gọi là xấp xỉ (xấp xỉ - xấp xỉ) hoặc chức năng lý thuyết . Nói chung, ở đây ngay lập tức xuất hiện một "kẻ giả vờ" rõ ràng - một đa thức bậc cao, đồ thị của nó đi qua TẤT CẢ các điểm. Nhưng tùy chọn này phức tạp và thường đơn giản là không chính xác. (bởi vì biểu đồ sẽ luôn luôn "gió" và phản ánh kém xu hướng chính).

Do đó, chức năng mong muốn phải đủ đơn giản và đồng thời phản ánh đầy đủ sự phụ thuộc. Như bạn có thể đoán, một trong những phương pháp để tìm các chức năng như vậy được gọi là bình phương nhỏ nhất. Đầu tiên, hãy phân tích bản chất của nó một cách tổng quát. Hãy để một số hàm xấp xỉ dữ liệu thử nghiệm:


Làm thế nào để đánh giá độ chính xác của xấp xỉ này? Chúng ta cũng hãy tính toán sự khác biệt (độ lệch) giữa các giá trị thực nghiệm và chức năng (chúng tôi nghiên cứu bản vẽ). Ý nghĩ đầu tiên xuất hiện trong đầu là ước tính tổng lớn bao nhiêu, nhưng vấn đề là sự khác biệt có thể âm. (Ví dụ, ) và những sai lệch do tổng kết như vậy sẽ triệt tiêu lẫn nhau. Do đó, như một ước tính về độ chính xác của xấp xỉ, nó gợi ý chính nó lấy tổng mô-đun sai lệch:

hoặc ở dạng gấp: (bỗng nhiên ai không biết: là biểu tượng tổng, và là biến phụ-“bộ đếm”, nhận giá trị từ 1 đến ).

Bằng cách tính gần đúng các điểm thực nghiệm với các hàm khác nhau, chúng ta sẽ thu được các giá trị khác nhau của , và hiển nhiên là ở đâu tổng này càng nhỏ thì hàm đó càng chính xác.

Một phương pháp như vậy tồn tại và được gọi là phương pháp mô đun nhỏ nhất. Tuy nhiên, trong thực tế nó đã trở nên phổ biến hơn nhiều. phương pháp bình phương nhỏ nhất, trong đó các giá trị âm có thể được loại bỏ không phải bằng mô đun, mà bằng cách bình phương các độ lệch:

, sau đó các nỗ lực được hướng đến việc lựa chọn một hàm sao cho tổng bình phương độ lệch càng nhỏ càng tốt. Trên thực tế, do đó tên của phương pháp.

Và bây giờ chúng ta quay lại một điểm quan trọng khác: như đã lưu ý ở trên, chức năng được chọn sẽ khá đơn giản - nhưng cũng có nhiều chức năng như vậy: tuyến tính , hypebol, số mũ, logarit, bậc hai vân vân. Và, tất nhiên, ở đây tôi muốn ngay lập tức "thu hẹp lĩnh vực hoạt động." Chọn loại hàm nào để nghiên cứu? Kỹ thuật nguyên thủy nhưng hiệu quả:

- Cách dễ nhất để vẽ điểm trên hình vẽ và phân tích vị trí của chúng. Nếu chúng có xu hướng nằm trên một đường thẳng, thì bạn nên tìm kiếm phương trình đường thẳng với các giá trị tối ưu và . Nói cách khác, nhiệm vụ là tìm các hệ số SUCH - sao cho tổng các bình phương độ lệch là nhỏ nhất.

Ví dụ, nếu các điểm nằm dọc theo cường điệu, thì rõ ràng là hàm tuyến tính sẽ cho một xấp xỉ kém. Trong trường hợp này, chúng tôi đang tìm kiếm các hệ số "thuận lợi" nhất cho phương trình hyperbola - những người cho tổng bình phương tối thiểu .

Bây giờ lưu ý rằng trong cả hai trường hợp chúng ta đang nói về chức năng của hai biến, có đối số là tùy chọn phụ thuộc tìm kiếm:

Và về bản chất, chúng ta cần giải một bài toán chuẩn - tìm cực tiểu của hàm hai biến.

Nhớ lại ví dụ của chúng tôi: giả sử rằng các điểm "cửa hàng" có xu hướng nằm trên một đường thẳng và có mọi lý do để tin rằng sự hiện diện phụ thuộc tuyến tính doanh thu từ khu vực giao dịch. Hãy tìm các hệ số SUCH "a" và "be" sao cho tổng bình phương độ lệch là nhỏ nhất. Mọi thứ như thường lệ - đầu tiên đạo hàm riêng cấp 1. Dựa theo quy luật tuyến tính bạn có thể phân biệt ngay dưới biểu tượng tổng:

Nếu bạn muốn sử dụng thông tin này cho một bài tiểu luận hoặc một bài báo dài hạn, tôi sẽ rất biết ơn về liên kết trong danh sách các nguồn, bạn sẽ không tìm thấy các tính toán chi tiết như vậy ở bất cứ đâu:

Hãy tạo một hệ thống tiêu chuẩn:

Chúng tôi giảm mỗi phương trình bằng một "hai" và, ngoài ra, "chia nhỏ" các khoản tiền:

Ghi chú : độc lập phân tích tại sao có thể bỏ "a" và "be" ra khỏi biểu tượng tổng. Nhân tiện, chính thức điều này có thể được thực hiện với tổng

Hãy viết lại hệ thống ở dạng "áp dụng":

sau đó thuật toán giải quyết vấn đề của chúng tôi bắt đầu được rút ra:

Chúng ta có biết tọa độ của các điểm không? Chúng tôi biết. tổng chúng ta có thể tìm thấy? Một cách dễ dàng. Chúng tôi sáng tác đơn giản nhất hệ hai phương trình tuyến tính với hai ẩn số("a" và "beh"). Chúng tôi giải quyết hệ thống, ví dụ, Phương pháp Cramer, dẫn đến một điểm đứng yên . kiểm tra điều kiện đủ cho một cực trị, chúng ta có thể xác minh rằng tại thời điểm này hàm đạt chính xác tối thiểu. Việc xác minh được liên kết với các tính toán bổ sung và do đó chúng tôi sẽ để nó ở hậu trường. (nếu cần có thể xem khung còn thiếu). Chúng tôi rút ra kết luận cuối cùng:

Hàm số cách tốt nhất (ít nhất là so với bất kỳ hàm tuyến tính nào khác)đưa các điểm thí nghiệm lại gần hơn . Nói một cách đại khái, đồ thị của nó đi càng gần những điểm này càng tốt. trong truyền thống kinh tế lượng hàm xấp xỉ kết quả cũng được gọi là phương trình hồi quy tuyến tính cặp .

Vấn đề đang được xem xét có tầm quan trọng thực tế lớn. Trong tình huống với ví dụ của chúng tôi, phương trình cho phép bạn dự đoán loại doanh thu nào ("yig") sẽ có mặt tại cửa hàng với giá trị này hoặc giá trị khác của khu vực bán hàng (một hoặc một ý nghĩa khác của "x"). Vâng, dự báo kết quả sẽ chỉ là dự báo, nhưng trong nhiều trường hợp, nó sẽ khá chính xác.

Tôi sẽ chỉ phân tích một vấn đề với các số "thực", vì nó không có khó khăn gì - tất cả các phép tính đều ở cấp độ chương trình học ở lớp 7-8. Trong 95 phần trăm các trường hợp, bạn sẽ được yêu cầu chỉ tìm một hàm tuyến tính, nhưng ở phần cuối của bài viết, tôi sẽ chỉ ra rằng việc tìm các phương trình cho hyperbol tối ưu, số mũ và một số hàm khác không còn khó khăn nữa.

Trên thực tế, việc phân phát những món quà đã hứa vẫn còn - để bạn học cách giải những ví dụ như vậy không chỉ chính xác mà còn nhanh chóng. Chúng tôi nghiên cứu kỹ tiêu chuẩn:

Một nhiệm vụ

Kết quả của việc nghiên cứu mối quan hệ giữa hai chỉ số, đã thu được các cặp số sau:

Sử dụng phương pháp bình phương nhỏ nhất, tìm hàm tuyến tính gần đúng nhất với kinh nghiệm (có kinh nghiệm) dữ liệu. Tạo một bản vẽ trên đó, trong hệ tọa độ hình chữ nhật Descartes, vẽ các điểm thực nghiệm và đồ thị của hàm xấp xỉ . Tìm tổng bình phương độ lệch giữa giá trị thực nghiệm và lý thuyết. Tìm hiểu xem chức năng có tốt hơn không (theo phương pháp bình phương nhỏ nhất)điểm thực nghiệm gần đúng.

Lưu ý rằng các giá trị "x" là các giá trị tự nhiên và điều này có ý nghĩa quan trọng đặc trưng mà tôi sẽ nói sau một chút; nhưng tất nhiên, chúng có thể là phân số. Ngoài ra, tùy thuộc vào nội dung của một nhiệm vụ cụ thể, cả hai giá trị "X" và "G" đều có thể âm hoàn toàn hoặc một phần. Chà, chúng tôi đã được giao một nhiệm vụ "không có khuôn mặt" và chúng tôi bắt đầu nó dung dịch:

Chúng tôi tìm thấy các hệ số của hàm tối ưu như một giải pháp cho hệ thống:

Đối với mục đích của một ký hiệu nhỏ gọn hơn, biến "bộ đếm" có thể được bỏ qua, vì rõ ràng là phép tính tổng được thực hiện từ 1 đến .

Sẽ thuận tiện hơn khi tính toán số tiền cần thiết ở dạng bảng:


Các phép tính có thể được thực hiện trên máy vi tính, nhưng sẽ tốt hơn nhiều nếu sử dụng Excel - vừa nhanh hơn vừa không có lỗi; xem một video ngắn:

Vì vậy, chúng tôi nhận được như sau hệ thống:

Tại đây bạn có thể nhân phương trình thứ hai với 3 và trừ số thứ 2 từ số hạng phương trình thứ nhất theo số hạng. Nhưng đây là điều may mắn - trong thực tế, các hệ thống thường không có năng khiếu và trong những trường hợp như vậy, nó tiết kiệm được Phương pháp Cramer:
, nên hệ có nghiệm duy nhất.

Hãy làm một kiểm tra. Tôi hiểu rằng tôi không muốn, nhưng tại sao lại bỏ qua những sai lầm mà bạn hoàn toàn không thể bỏ qua? Thay nghiệm tìm được vào vế trái của mỗi phương trình của hệ:

Các phần bên phải của các phương trình tương ứng thu được, có nghĩa là hệ thống được giải chính xác.

Do đó, hàm xấp xỉ mong muốn: – từ tất cả các chức năng tuyến tính dữ liệu thử nghiệm được xấp xỉ tốt nhất bởi nó.

không giống dài sự phụ thuộc của doanh thu của cửa hàng vào khu vực của nó, sự phụ thuộc được tìm thấy là đảo ngược (nguyên tắc "càng nhiều - càng ít"), và sự thật này ngay lập tức được tiết lộ bởi tiêu cực hệ số góc. Hàm số thông báo cho chúng tôi rằng với việc tăng 1 đơn vị trong một chỉ báo nhất định, giá trị của chỉ báo phụ thuộc sẽ giảm trung bình bằng 0,65 đơn vị. Người ta nói, giá kiều mạch càng cao thì càng ít bán.

Để vẽ đồ thị hàm gần đúng, chúng tôi tìm thấy hai giá trị của nó:

và thực hiện bản vẽ:


Đường thẳng được xây dựng được gọi là đường xu hướng (cụ thể là đường xu hướng tuyến tính, tức là trong trường hợp chung, xu hướng không nhất thiết phải là đường thẳng). Mọi người đều quen thuộc với cụm từ "bắt kịp xu hướng" và tôi nghĩ rằng thuật ngữ này không cần bình luận thêm.

Tính tổng bình phương độ lệch giữa các giá trị thực nghiệm và lý thuyết. Về mặt hình học, đây là tổng bình phương độ dài của các đoạn "đỏ thẫm" (hai trong số đó nhỏ đến mức bạn thậm chí không thể nhìn thấy chúng).

Hãy tóm tắt các tính toán trong một bảng:


Chúng có thể được thực hiện lại theo cách thủ công, đề phòng tôi sẽ đưa ra một ví dụ cho điểm đầu tiên:

nhưng sẽ hiệu quả hơn nhiều khi thực hiện theo cách đã biết:

Hãy nhắc lại: ý nghĩa của kết quả là gì? Từ tất cả các chức năng tuyến tính hàm số số mũ là nhỏ nhất, nghĩa là nó là xấp xỉ tốt nhất trong họ của nó. Và ở đây, nhân tiện, câu hỏi cuối cùng của vấn đề không phải là ngẫu nhiên: điều gì sẽ xảy ra nếu hàm mũ được đề xuất nó sẽ tốt hơn để ước tính các điểm thử nghiệm?

Hãy tìm tổng độ lệch bình phương tương ứng - để phân biệt chúng, tôi sẽ chỉ định chúng bằng chữ "epsilon". Kỹ thuật này hoàn toàn giống nhau:


Và một lần nữa cho mọi phép tính lửa cho điểm đầu tiên:

Trong Excel, chúng tôi sử dụng chức năng tiêu chuẩn kinh nghiệm (Có thể tìm thấy cú pháp trong Trợ giúp Excel).

Sự kết luận: , nên hàm số xấp xỉ điểm nghiệm kém hơn đường thẳng .

Nhưng cần lưu ý ở đây rằng "tệ hơn" là không có nghĩa là chưa, chuyện gì thế. Bây giờ tôi đã xây dựng một đồ thị của hàm số mũ này - và nó cũng đi qua gần các điểm - nhiều đến mức nếu không có một nghiên cứu phân tích thì khó có thể nói chức năng nào chính xác hơn.

Điều này hoàn thành giải pháp và tôi quay lại câu hỏi về các giá trị tự nhiên của đối số. Trong các nghiên cứu khác nhau, theo quy luật, kinh tế hoặc xã hội học, tháng, năm hoặc các khoảng thời gian bằng nhau khác được đánh số bằng chữ "X" tự nhiên. Ví dụ, hãy xem xét một vấn đề như vậy.

Phương pháp bình phương nhỏ nhất

Trong bài học cuối cùng của chủ đề, chúng ta sẽ làm quen với ứng dụng nổi tiếng nhất FNP, tìm thấy ứng dụng rộng rãi nhất trong các lĩnh vực khoa học và thực hành khác nhau. Nó có thể là vật lý, hóa học, sinh học, kinh tế học, xã hội học, tâm lý học, v.v. Theo ý muốn của số phận, tôi thường phải đối phó với nền kinh tế, và do đó hôm nay tôi sẽ sắp xếp cho bạn một vé đến một đất nước tuyệt vời tên là kinh tế lượng=) … Làm thế nào để bạn không muốn điều đó?! Ở đó rất tốt - bạn chỉ cần quyết định! …Nhưng điều chắc chắn bạn muốn là học cách giải quyết vấn đề bình phương nhỏ nhất. Và những độc giả đặc biệt siêng năng sẽ học cách giải chúng không chỉ CHÍNH XÁC mà còn RẤT NHANH ;-) Nhưng trước tiên tuyên bố chung của vấn đề+ Ví dụ liên quan:

Hãy để các chỉ số được nghiên cứu trong một số lĩnh vực chủ đề có biểu thức định lượng. Đồng thời, có mọi lý do để tin rằng chỉ báo phụ thuộc vào chỉ báo. Giả định này có thể vừa là giả thuyết khoa học vừa dựa trên lẽ thường cơ bản. Tuy nhiên, hãy để khoa học sang một bên và khám phá những lĩnh vực ngon miệng hơn - cụ thể là các cửa hàng tạp hóa. Biểu thị bởi:

– không gian bán lẻ của một cửa hàng tạp hóa, m2,
- doanh thu hàng năm của một cửa hàng tạp hóa, triệu rúp.

Rõ ràng là diện tích của cửa hàng càng lớn thì doanh thu của nó trong hầu hết các trường hợp càng lớn.

Giả sử rằng sau khi tiến hành quan sát / thí nghiệm / tính toán / khiêu vũ với tambourine, chúng ta có sẵn dữ liệu số:

Với các cửa hàng tạp hóa, tôi nghĩ mọi thứ đều rõ ràng: - đây là khu vực của cửa hàng thứ nhất, - doanh thu hàng năm của nó, - khu vực của cửa hàng thứ 2, - doanh thu hàng năm của nó, v.v. Nhân tiện, không nhất thiết phải có quyền truy cập vào các tài liệu được phân loại - có thể đánh giá khá chính xác doanh thu bằng cách sử dụng thống kê toán học. Tuy nhiên, đừng để bị phân tâm, quá trình gián điệp thương mại đã được trả tiền =)

Dữ liệu dạng bảng cũng có thể được viết dưới dạng điểm và được mô tả theo cách thông thường đối với chúng tôi. hệ Descartes .

Hãy trả lời một câu hỏi quan trọng: bao nhiêu điểm là cần thiết cho một nghiên cứu định tính?

Càng to càng tốt. Bộ chấp nhận tối thiểu bao gồm 5-6 điểm. Ngoài ra, với lượng dữ liệu ít, không nên đưa các kết quả “bất thường” vào mẫu. Vì vậy, ví dụ, một cửa hàng nhỏ dành cho giới thượng lưu có thể giúp thực hiện các đơn đặt hàng lớn hơn so với “đồng nghiệp của họ”, do đó làm sai lệch mô hình chung cần tìm!



Nếu nó khá đơn giản, chúng ta cần chọn một chức năng, lịch trình mà đi càng gần càng tốt với các điểm . Một chức năng như vậy được gọi là xấp xỉ (xấp xỉ - xấp xỉ) hoặc chức năng lý thuyết . Nói chung, ở đây ngay lập tức xuất hiện một "kẻ giả vờ" rõ ràng - một đa thức bậc cao, đồ thị của nó đi qua TẤT CẢ các điểm. Nhưng tùy chọn này phức tạp và thường đơn giản là không chính xác. (bởi vì biểu đồ sẽ luôn luôn "gió" và phản ánh kém xu hướng chính).

Do đó, chức năng mong muốn phải đủ đơn giản và đồng thời phản ánh đầy đủ sự phụ thuộc. Như bạn có thể đoán, một trong những phương pháp để tìm các chức năng như vậy được gọi là bình phương nhỏ nhất. Đầu tiên, hãy phân tích bản chất của nó một cách tổng quát. Hãy để một số hàm xấp xỉ dữ liệu thử nghiệm:


Làm thế nào để đánh giá độ chính xác của xấp xỉ này? Chúng ta cũng hãy tính toán sự khác biệt (độ lệch) giữa các giá trị thực nghiệm và chức năng (chúng tôi nghiên cứu bản vẽ). Ý nghĩ đầu tiên xuất hiện trong đầu là ước tính tổng lớn bao nhiêu, nhưng vấn đề là sự khác biệt có thể âm. (Ví dụ, ) và những sai lệch do tổng kết như vậy sẽ triệt tiêu lẫn nhau. Do đó, như một ước tính về độ chính xác của xấp xỉ, nó gợi ý chính nó lấy tổng mô-đun sai lệch:

hoặc ở dạng gấp: (dành cho ai chưa biết: là biểu tượng tổng và - biến phụ - "bộ đếm", nhận giá trị từ 1 đến ) .

Xấp xỉ các điểm thực nghiệm với các hàm khác nhau, chúng ta sẽ nhận được các giá trị khác nhau và rõ ràng là nơi nào tổng này nhỏ hơn - hàm đó chính xác hơn.

Một phương pháp như vậy tồn tại và được gọi là phương pháp mô đun nhỏ nhất. Tuy nhiên, trong thực tế nó đã trở nên phổ biến hơn nhiều. phương pháp bình phương nhỏ nhất, trong đó các giá trị âm có thể được loại bỏ không phải bằng mô đun, mà bằng cách bình phương các độ lệch:



, sau đó các nỗ lực được hướng đến việc lựa chọn một hàm sao cho tổng bình phương độ lệch càng nhỏ càng tốt. Trên thực tế, do đó tên của phương pháp.

Và bây giờ chúng ta quay lại một điểm quan trọng khác: như đã lưu ý ở trên, chức năng được chọn sẽ khá đơn giản - nhưng cũng có nhiều chức năng như vậy: tuyến tính , hypebol , số mũ , logarit , bậc hai vân vân. Và, tất nhiên, ở đây tôi muốn ngay lập tức "thu hẹp lĩnh vực hoạt động." Chọn loại hàm nào để nghiên cứu? Kỹ thuật nguyên thủy nhưng hiệu quả:

- Cách dễ nhất để vẽ điểm trên hình vẽ và phân tích vị trí của chúng. Nếu chúng có xu hướng nằm trên một đường thẳng, thì bạn nên tìm kiếm phương trình đường thẳng với các giá trị tối ưu và . Nói cách khác, nhiệm vụ là tìm các hệ số SUCH - sao cho tổng các bình phương độ lệch là nhỏ nhất.

Ví dụ, nếu các điểm nằm dọc theo cường điệu, thì rõ ràng là hàm tuyến tính sẽ cho một xấp xỉ kém. Trong trường hợp này, chúng tôi đang tìm kiếm các hệ số "thuận lợi" nhất cho phương trình hyperbola - những người cho tổng bình phương tối thiểu .

Bây giờ lưu ý rằng trong cả hai trường hợp chúng ta đang nói về chức năng của hai biến, có đối số là tùy chọn phụ thuộc tìm kiếm:

Và về bản chất, chúng ta cần giải một bài toán chuẩn - tìm cực tiểu của hàm hai biến.

Nhớ lại ví dụ của chúng tôi: giả sử rằng các điểm "cửa hàng" có xu hướng nằm trên một đường thẳng và có mọi lý do để tin rằng sự hiện diện phụ thuộc tuyến tính doanh thu từ khu vực giao dịch. Hãy tìm các hệ số SUCH "a" và "be" sao cho tổng bình phương độ lệch là nhỏ nhất. Mọi thứ như thường lệ - đầu tiên đạo hàm riêng cấp 1. Dựa theo quy luật tuyến tính bạn có thể phân biệt ngay dưới biểu tượng tổng:

Nếu bạn muốn sử dụng thông tin này cho một bài tiểu luận hoặc một bài báo dài hạn, tôi sẽ rất biết ơn về liên kết trong danh sách các nguồn, bạn sẽ không tìm thấy các tính toán chi tiết như vậy ở bất cứ đâu:

Hãy tạo một hệ thống tiêu chuẩn:

Chúng tôi giảm mỗi phương trình bằng một "hai" và, ngoài ra, "chia nhỏ" các khoản tiền:

Ghi chú : độc lập phân tích tại sao có thể bỏ "a" và "be" ra khỏi biểu tượng tổng. Nhân tiện, chính thức điều này có thể được thực hiện với tổng

Hãy viết lại hệ thống ở dạng "áp dụng":

sau đó thuật toán giải quyết vấn đề của chúng tôi bắt đầu được rút ra:

Chúng ta có biết tọa độ của các điểm không? Chúng tôi biết. tổng chúng ta có thể tìm thấy? Một cách dễ dàng. Chúng tôi sáng tác đơn giản nhất hệ hai phương trình tuyến tính với hai ẩn số("a" và "beh"). Chúng tôi giải quyết hệ thống, ví dụ, Phương pháp Cramer, dẫn đến một điểm đứng yên . kiểm tra điều kiện đủ cho một cực trị, chúng ta có thể xác minh rằng tại thời điểm này hàm đạt chính xác tối thiểu. Việc xác minh được liên kết với các tính toán bổ sung và do đó chúng tôi sẽ để nó ở hậu trường. (nếu cần có thể xem khung còn thiếunơi đây ) . Chúng tôi rút ra kết luận cuối cùng:

Hàm số cách tốt nhất (ít nhất là so với bất kỳ hàm tuyến tính nào khác)đưa các điểm thí nghiệm lại gần hơn . Nói một cách đại khái, đồ thị của nó đi càng gần những điểm này càng tốt. trong truyền thống kinh tế lượng hàm xấp xỉ kết quả cũng được gọi là phương trình hồi quy tuyến tính cặp .

Vấn đề đang được xem xét có tầm quan trọng thực tế lớn. Trong tình huống với ví dụ của chúng tôi, phương trình cho phép bạn dự đoán loại doanh thu nào ("yig") sẽ có mặt tại cửa hàng với giá trị này hoặc giá trị khác của khu vực bán hàng (một hoặc một ý nghĩa khác của "x"). Vâng, dự báo kết quả sẽ chỉ là dự báo, nhưng trong nhiều trường hợp, nó sẽ khá chính xác.

Tôi sẽ chỉ phân tích một vấn đề với các số "thực", vì nó không có khó khăn gì - tất cả các phép tính đều ở cấp độ chương trình học ở lớp 7-8. Trong 95 phần trăm các trường hợp, bạn sẽ được yêu cầu chỉ tìm một hàm tuyến tính, nhưng ở phần cuối của bài viết, tôi sẽ chỉ ra rằng việc tìm các phương trình cho hyperbol tối ưu, số mũ và một số hàm khác không còn khó khăn nữa.

Trên thực tế, việc phân phát những món quà đã hứa vẫn còn - để bạn học cách giải những ví dụ như vậy không chỉ chính xác mà còn nhanh chóng. Chúng tôi nghiên cứu kỹ tiêu chuẩn:

Một nhiệm vụ

Kết quả của việc nghiên cứu mối quan hệ giữa hai chỉ số, đã thu được các cặp số sau:

Sử dụng phương pháp bình phương nhỏ nhất, tìm hàm tuyến tính gần đúng nhất với kinh nghiệm (có kinh nghiệm) dữ liệu. Tạo một bản vẽ trên đó, trong hệ tọa độ hình chữ nhật Descartes, vẽ các điểm thực nghiệm và đồ thị của hàm xấp xỉ . Tìm tổng bình phương độ lệch giữa giá trị thực nghiệm và lý thuyết. Tìm hiểu xem chức năng có tốt hơn không (theo phương pháp bình phương nhỏ nhất)điểm thực nghiệm gần đúng.

Lưu ý rằng các giá trị "x" là các giá trị tự nhiên và điều này có ý nghĩa quan trọng đặc trưng mà tôi sẽ nói sau một chút; nhưng tất nhiên, chúng có thể là phân số. Ngoài ra, tùy thuộc vào nội dung của một nhiệm vụ cụ thể, cả hai giá trị "X" và "G" đều có thể âm hoàn toàn hoặc một phần. Chà, chúng tôi đã được giao một nhiệm vụ "không có khuôn mặt" và chúng tôi bắt đầu nó dung dịch:

Chúng tôi tìm thấy các hệ số của hàm tối ưu như một giải pháp cho hệ thống:

Đối với mục đích của một ký hiệu nhỏ gọn hơn, biến "bộ đếm" có thể được bỏ qua, vì rõ ràng là phép tính tổng được thực hiện từ 1 đến .

Sẽ thuận tiện hơn khi tính toán số tiền cần thiết ở dạng bảng:


Các phép tính có thể được thực hiện trên máy vi tính, nhưng sẽ tốt hơn nhiều nếu sử dụng Excel - vừa nhanh hơn vừa không có lỗi; xem một video ngắn:

Vì vậy, chúng tôi nhận được như sau hệ thống:

Tại đây bạn có thể nhân phương trình thứ hai với 3 và trừ số thứ 2 từ số hạng phương trình thứ nhất theo số hạng. Nhưng đây là điều may mắn - trong thực tế, các hệ thống thường không có năng khiếu và trong những trường hợp như vậy, nó tiết kiệm được Phương pháp Cramer:
, nên hệ có nghiệm duy nhất.

Hãy làm một kiểm tra. Tôi hiểu rằng tôi không muốn, nhưng tại sao lại bỏ qua những sai lầm mà bạn hoàn toàn không thể bỏ qua? Thay nghiệm tìm được vào vế trái của mỗi phương trình của hệ:

Các phần bên phải của các phương trình tương ứng thu được, có nghĩa là hệ thống được giải chính xác.

Do đó, hàm xấp xỉ mong muốn: – từ tất cả các chức năng tuyến tính dữ liệu thử nghiệm được xấp xỉ tốt nhất bởi nó.

không giống dài sự phụ thuộc của doanh thu của cửa hàng vào khu vực của nó, sự phụ thuộc được tìm thấy là đảo ngược (nguyên tắc "càng nhiều - càng ít"), và sự thật này ngay lập tức được tiết lộ bởi tiêu cực hệ số góc. Hàm cho ta biết khi chỉ tiêu nào đó tăng 1 đơn vị thì giá trị của chỉ tiêu phụ thuộc giảm trung bình bằng 0,65 đơn vị. Người ta nói, giá kiều mạch càng cao thì càng ít bán.

Để vẽ đồ thị hàm gần đúng, chúng tôi tìm thấy hai giá trị của nó:

và thực hiện bản vẽ:

Đường thẳng được xây dựng được gọi là đường xu hướng (cụ thể là đường xu hướng tuyến tính, tức là trong trường hợp chung, xu hướng không nhất thiết phải là đường thẳng). Mọi người đều quen thuộc với cụm từ "bắt kịp xu hướng" và tôi nghĩ rằng thuật ngữ này không cần bình luận thêm.

Tính tổng bình phương độ lệch giữa các giá trị thực nghiệm và lý thuyết. Về mặt hình học, đây là tổng bình phương độ dài của các đoạn "đỏ thẫm" (hai trong số đó nhỏ đến mức bạn thậm chí không thể nhìn thấy chúng).

Hãy tóm tắt các tính toán trong một bảng:


Chúng có thể được thực hiện lại theo cách thủ công, đề phòng tôi sẽ đưa ra một ví dụ cho điểm đầu tiên:

nhưng sẽ hiệu quả hơn nhiều khi thực hiện theo cách đã biết:

Hãy nhắc lại: ý nghĩa của kết quả là gì? Từ tất cả các chức năng tuyến tính hàm có số mũ nhỏ nhất, nghĩa là trong họ của nó, đây là xấp xỉ tốt nhất. Và ở đây, nhân tiện, câu hỏi cuối cùng của vấn đề không phải là ngẫu nhiên: điều gì sẽ xảy ra nếu hàm mũ được đề xuất nó sẽ tốt hơn để ước tính các điểm thử nghiệm?

Hãy tìm tổng độ lệch bình phương tương ứng - để phân biệt chúng, tôi sẽ chỉ định chúng bằng chữ "epsilon". Kỹ thuật này hoàn toàn giống nhau:

Và một lần nữa cho mọi phép tính lửa cho điểm đầu tiên:

Trong Excel, chúng tôi sử dụng chức năng tiêu chuẩn kinh nghiệm (Có thể tìm thấy cú pháp trong Trợ giúp Excel).

Sự kết luận: , nghĩa là hàm mũ xấp xỉ điểm thực nghiệm kém hơn so với đường thẳng .

Nhưng cần lưu ý ở đây rằng "tệ hơn" là không có nghĩa là chưa, chuyện gì thế. Bây giờ tôi đã xây dựng một đồ thị của hàm số mũ này - và nó cũng đi qua gần các điểm - đến mức nếu không có nghiên cứu phân tích thì khó có thể nói hàm nào chính xác hơn.

Điều này hoàn thành giải pháp và tôi quay lại câu hỏi về các giá trị tự nhiên của đối số. Trong các nghiên cứu khác nhau, theo quy luật, kinh tế hoặc xã hội học, tháng, năm hoặc các khoảng thời gian bằng nhau khác được đánh số bằng chữ "X" tự nhiên. Ví dụ, xét bài toán sau:

Chúng tôi có dữ liệu sau về doanh thu bán lẻ của cửa hàng trong nửa đầu năm:

Sử dụng căn chỉnh phân tích đường thẳng, tìm doanh số bán hàng cho tháng 7.

Vâng, không vấn đề gì: chúng tôi đánh số các tháng 1, 2, 3, 4, 5, 6 và sử dụng thuật toán thông thường, kết quả là chúng tôi nhận được một phương trình - điều duy nhất khi nói đến thời gian thường là chữ "te " (mặc dù nó không quan trọng). Phương trình kết quả cho thấy rằng trong nửa đầu năm, doanh thu tăng trung bình 27,74 CU. mỗi tháng. Nhận dự báo cho tháng 7 (tháng #7): EU.

Và các nhiệm vụ tương tự - bóng tối là bóng tối. Những người muốn có thể sử dụng một dịch vụ bổ sung, cụ thể là của tôi máy tính excel (bản thử), cái mà giải quyết vấn đề gần như ngay lập tức! Phiên bản làm việc của chương trình có sẵn đổi lại hoặc là thanh toán tượng trưng.

Vào cuối bài học, một thông tin ngắn gọn về việc tìm kiếm các phụ thuộc của một số loại khác. Trên thực tế, không có gì đặc biệt để nói, vì cách tiếp cận cơ bản và thuật toán giải pháp vẫn giữ nguyên.

Chúng ta hãy giả sử rằng vị trí của các điểm thử nghiệm giống như một hyperbola. Sau đó, để tìm các hệ số của hyperbola tốt nhất, bạn cần tìm giá trị cực tiểu của hàm - những người muốn có thể thực hiện các phép tính chi tiết và đến một hệ thống tương tự:

Từ quan điểm kỹ thuật chính thức, nó được lấy từ hệ thống "tuyến tính" (hãy đánh dấu nó bằng dấu hoa thị) thay thế "x" bằng . Chà, số tiền tính toán, sau đó là các hệ số tối ưu "a" và "be" trong tầm tay.

Nếu có mọi lý do để tin rằng các điểm được sắp xếp dọc theo một đường cong logarit, sau đó để tìm kiếm các giá trị tối ưu và tìm giá trị tối thiểu của hàm . Về mặt hình thức, trong hệ thống (*) nên được thay thế bằng:

Khi tính toán trong Excel, hãy sử dụng hàm LN. Tôi thú nhận rằng sẽ không khó để tôi tạo ra các máy tính cho từng trường hợp đang xem xét, nhưng sẽ vẫn tốt hơn nếu bạn tự "lập trình" các phép tính. Video hướng dẫn để giúp đỡ.

Với sự phụ thuộc hàm mũ, tình hình phức tạp hơn một chút. Để giảm vấn đề về trường hợp tuyến tính, chúng tôi lấy logarit của hàm và sử dụng tính chất của logarit:

Bây giờ, so sánh hàm thu được với hàm tuyến tính , chúng ta đi đến kết luận rằng trong hệ thống (*) phải được thay thế bởi , và - bởi . Để thuận tiện, ta ký hiệu:

Xin lưu ý rằng hệ thống được giải theo và , và do đó, sau khi tìm ra nghiệm, bạn không được quên tìm chính hệ số đó.

Để xấp xỉ điểm thực nghiệm parabol tối ưu , nên được tìm thấy cực tiểu của hàm ba biến . Sau khi thực hiện các hành động tiêu chuẩn, chúng tôi nhận được "hoạt động" sau hệ thống:

Vâng, tất nhiên, có nhiều số tiền hơn ở đây, nhưng không có khó khăn gì khi sử dụng ứng dụng yêu thích của bạn. Và cuối cùng, tôi sẽ cho bạn biết cách kiểm tra nhanh bằng Excel và xây dựng đường xu hướng mong muốn: tạo biểu đồ phân tán, chọn bất kỳ điểm nào bằng chuột và nhấp chuột phải chọn tùy chọn "Thêm đường xu hướng". Tiếp theo, chọn loại biểu đồ và trên tab "Tùy chọn" kích hoạt tùy chọn "Hiển thị phương trình trên biểu đồ". ĐƯỢC RỒI

Như mọi khi, tôi muốn kết thúc bài viết bằng một cụm từ hay ho nào đó, và tôi suýt nữa đã gõ "Hãy bắt kịp xu hướng!". Nhưng với thời gian, anh ấy đã thay đổi quyết định. Và không phải vì nó là công thức. Tôi không biết mọi người thế nào, nhưng tôi không muốn chạy theo xu hướng cổ xúy của Mỹ và đặc biệt là châu Âu =) Vì vậy, tôi mong mỗi bạn hãy giữ vững lập trường của mình!

http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html

Phương pháp bình phương nhỏ nhất là một trong những phương pháp phổ biến nhất và phát triển nhất do tính đơn giản và hiệu quả của các phương pháp ước lượng các tham số của mô hình kinh tế lượng tuyến tính. Đồng thời, cần thận trọng nhất định khi sử dụng nó, vì các mô hình được xây dựng bằng cách sử dụng nó có thể không đáp ứng một số yêu cầu về chất lượng của các tham số và do đó, không phản ánh “tốt” các mô hình phát triển quy trình.

Chúng ta hãy xem xét quy trình ước tính các tham số của mô hình kinh tế lượng tuyến tính bằng phương pháp bình phương nhỏ nhất một cách chi tiết hơn. Một mô hình như vậy ở dạng tổng quát có thể được biểu diễn bằng phương trình (1.2):

y t = a 0 + a 1 x 1t +...+ a n x nt + ε t .

Dữ liệu ban đầu khi ước lượng các tham số a 0 , a 1 ,..., a n là véc tơ giá trị của biến phụ thuộc y= (y 1 , y 2 , ... , y T)" và ma trận giá trị của các biến độc lập

trong đó cột đầu tiên, bao gồm các cột, tương ứng với hệ số của mô hình .

Phương pháp bình phương nhỏ nhất được đặt tên dựa trên nguyên tắc cơ bản là các ước lượng tham số thu được trên cơ sở của nó phải thỏa mãn: tổng bình phương của lỗi mô hình phải nhỏ nhất.

Ví dụ giải bài toán bằng phương pháp bình phương bé nhất

Ví dụ 2.1. Doanh nghiệp thương mại có một mạng lưới bao gồm 12 cửa hàng, thông tin về các hoạt động được trình bày trong Bảng. 2.1.

Ban lãnh đạo công ty muốn biết quy mô doanh thu hàng năm phụ thuộc vào không gian bán lẻ của cửa hàng như thế nào.

Bảng 2.1

số cửa hàng Doanh thu hàng năm, triệu rúp Diện tích thương mại, nghìn m 2
19,76 0,24
38,09 0,31
40,95 0,55
41,08 0,48
56,29 0,78
68,51 0,98
75,01 0,94
89,05 1,21
91,13 1,29
91,26 1,12
99,84 1,29
108,55 1,49

Giải pháp bình phương nhỏ nhất. Hãy để chúng tôi chỉ định - doanh thu hàng năm của cửa hàng thứ -, triệu rúp; - diện tích cửa hàng bán thứ nghìn m 2 .

Hình.2.1. Biểu đồ phân tán cho ví dụ 2.1

Để xác định dạng của mối quan hệ hàm số giữa các biến và xây dựng biểu đồ phân tán (Hình 2.1).

Dựa trên biểu đồ phân tán, chúng ta có thể kết luận rằng doanh thu hàng năm phụ thuộc thuận vào khu vực bán hàng (nghĩa là y sẽ tăng cùng với mức tăng trưởng của ). Hình thức kết nối chức năng phù hợp nhất là tuyến tính.

Thông tin để tính toán thêm được trình bày trong Bảng. 2.2. Sử dụng phương pháp bình phương nhỏ nhất, chúng tôi ước tính các tham số của mô hình kinh tế lượng tuyến tính một yếu tố

Bảng 2.2

t y t x 1t năm t2 x1t2 x 1t y t
19,76 0,24 390,4576 0,0576 4,7424
38,09 0,31 1450,8481 0,0961 11,8079
40,95 0,55 1676,9025 0,3025 22,5225
41,08 0,48 1687,5664 0,2304 19,7184
56,29 0,78 3168,5641 0,6084 43,9062
68,51 0,98 4693,6201 0,9604 67,1398
75,01 0,94 5626,5001 0,8836 70,5094
89,05 1,21 7929,9025 1,4641 107,7505
91,13 1,29 8304,6769 1,6641 117,5577
91,26 1,12 8328,3876 1,2544 102,2112
99,84 1,29 9968,0256 1,6641 128,7936
108,55 1,49 11783,1025 2,2201 161,7395
S 819,52 10,68 65008,554 11,4058 858,3991
Trung bình 68,29 0,89

Bằng cách này,

Do đó, với diện tích giao dịch tăng thêm 1 nghìn m 2, các yếu tố khác không đổi, doanh thu trung bình hàng năm tăng 67,8871 triệu rúp.

Ví dụ 2.2. Ban lãnh đạo doanh nghiệp nhận thấy rằng doanh thu hàng năm không chỉ phụ thuộc vào diện tích bán hàng của cửa hàng (xem ví dụ 2.1) mà còn phụ thuộc vào lượng khách trung bình. Các thông tin liên quan được trình bày trong bảng. 2.3.

Bảng 2.3

Dung dịch. Biểu thị - số lượng khách truy cập trung bình vào cửa hàng thứ mỗi ngày, nghìn người.

Để xác định dạng của mối quan hệ hàm số giữa các biến và xây dựng biểu đồ phân tán (Hình 2.2).

Dựa trên biểu đồ phân tán, chúng ta có thể kết luận rằng doanh thu hàng năm có quan hệ tỷ lệ thuận với số lượng khách truy cập trung bình mỗi ngày (nghĩa là y sẽ tăng cùng với mức tăng của ). Dạng phụ thuộc hàm là tuyến tính.

Cơm. 2.2. Biểu đồ phân tán ví dụ 2.2

Bảng 2.4

t x 2t x 2t 2 yt x 2t x 1t x 2t
8,25 68,0625 163,02 1,98
10,24 104,8575 390,0416 3,1744
9,31 86,6761 381,2445 5,1205
11,01 121,2201 452,2908 5,2848
8,54 72,9316 480,7166 6,6612
7,51 56,4001 514,5101 7,3598
12,36 152,7696 927,1236 11,6184
10,81 116,8561 962,6305 13,0801
9,89 97,8121 901,2757 12,7581
13,72 188,2384 1252,0872 15,3664
12,27 150,5529 1225,0368 15,8283
13,92 193,7664 1511,016 20,7408
S 127,83 1410,44 9160,9934 118,9728
Trung bình 10,65

Nhìn chung, cần xác định các tham số của mô hình kinh tế lượng hai yếu tố

y t \u003d a 0 + a 1 x 1t + a 2 x 2t + ε t

Thông tin cần thiết cho các tính toán tiếp theo được trình bày trong Bảng. 2.4.

Hãy để chúng tôi ước tính các tham số của mô hình kinh tế lượng hai yếu tố tuyến tính bằng phương pháp bình phương nhỏ nhất.

Bằng cách này,

Đánh giá hệ số = 61,6583 cho thấy, các yếu tố khác không đổi, với diện tích giao dịch tăng thêm 1 nghìn m 2, doanh thu hàng năm sẽ tăng trung bình 61,6583 triệu rúp.

Ước tính của hệ số = 2,2748 cho thấy rằng, các yếu tố khác không đổi, với sự gia tăng số lượng khách trung bình trên 1 nghìn người. mỗi ngày, doanh thu hàng năm sẽ tăng trung bình 2,2748 triệu rúp.

Ví dụ 2.3. Sử dụng thông tin trình bày trong bảng. 2.2 và 2.4, ước lượng tham số của mô hình kinh tế lượng đơn nhân tố

đâu là giá trị trung tâm của doanh thu hàng năm của cửa hàng thứ - triệu rúp; - giá trị trung tâm của số lượng khách truy cập trung bình hàng ngày vào cửa hàng thứ t, nghìn người. (xem ví dụ 2.1-2.2).

Dung dịch. Thông tin bổ sung cần thiết để tính toán được trình bày trong Bảng. 2.5.

Bảng 2.5

-48,53 -2,40 5,7720 116,6013
-30,20 -0,41 0,1702 12,4589
-27,34 -1,34 1,8023 36,7084
-27,21 0,36 0,1278 -9,7288
-12,00 -2,11 4,4627 25,3570
0,22 -3,14 9,8753 -0,6809
6,72 1,71 2,9156 11,4687
20,76 0,16 0,0348 3,2992
22,84 -0,76 0,5814 -17,413
22,97 3,07 9,4096 70,4503
31,55 1,62 2,6163 51,0267
40,26 3,27 10,6766 131,5387
Tổng 48,4344 431,0566

Sử dụng công thức (2.35), chúng tôi thu được

Bằng cách này,

http://www.cleverstudents.ru/articles/mnk.html

Thí dụ.

Dữ liệu thực nghiệm về giá trị của các biến Xtạiđược đưa ra trong bảng.

Do sự liên kết của chúng, hàm

sử dụng phương pháp bình phương nhỏ nhất, xấp xỉ những dữ liệu này với sự phụ thuộc tuyến tính y=ax+b(tìm tùy chọn mộtb). Tìm xem trong hai dòng nào tốt hơn (theo nghĩa của phương pháp bình phương nhỏ nhất) sắp xếp dữ liệu thử nghiệm. Vẽ tranh.

Dung dịch.

trong ví dụ của chúng tôi n=5. Chúng tôi điền vào bảng để thuận tiện cho việc tính toán số tiền được bao gồm trong các công thức của các hệ số cần thiết.

Các giá trị ở hàng thứ 4 của bảng có được bằng cách nhân các giá trị của hàng thứ 2 với các giá trị của hàng thứ 3 cho mỗi số tôi.

Các giá trị trong hàng thứ năm của bảng thu được bằng cách bình phương các giá trị của hàng thứ 2 cho mỗi số tôi.

Các giá trị của cột cuối cùng của bảng là tổng của các giá trị trên các hàng.

Chúng tôi sử dụng các công thức của phương pháp bình phương nhỏ nhất để tìm các hệ số mộtb. Chúng tôi thay thế chúng bằng các giá trị tương ứng từ cột cuối cùng của bảng:

Do đó, y=0,165x+2,184 là đường thẳng xấp xỉ mong muốn.

Nó vẫn còn để tìm ra dòng nào y=0,165x+2,184 hoặc xấp xỉ tốt hơn dữ liệu gốc, tức là ước tính bằng phương pháp bình phương nhỏ nhất.

Bằng chứng.

Vì vậy mà khi tìm thấy mộtb hàm nhận giá trị nhỏ nhất, điều cần thiết là tại thời điểm này ma trận dạng bậc hai của vi phân cấp hai cho hàm đã được xác định tích cực. Hãy cho thấy nó.

Vi phân bậc hai có dạng:

Đó là

Do đó, ma trận của căn thức bậc hai có dạng

và giá trị của các phần tử không phụ thuộc vào mộtb.

Hãy để chúng tôi chứng minh rằng ma trận là xác định dương. Điều này đòi hỏi các góc phụ phải dương.

Góc nhỏ của đơn hàng đầu tiên . Bất đẳng thức là nghiêm ngặt, vì các điểm

Sau khi căn chỉnh, ta được hàm số có dạng sau: g(x) = x + 1 3 + 1 .

Chúng ta có thể ước tính dữ liệu này với mối quan hệ tuyến tính y = a x + b bằng cách tính toán các tham số thích hợp. Để làm điều này, chúng ta sẽ cần áp dụng cái gọi là phương pháp bình phương nhỏ nhất. Bạn cũng sẽ cần tạo một bản vẽ để kiểm tra xem đường nào sẽ căn chỉnh tốt nhất dữ liệu thử nghiệm.

Yandex.RTB R-A-339285-1

Chính xác OLS là gì (phương pháp bình phương nhỏ nhất)

Điều chính chúng ta cần làm là tìm các hệ số phụ thuộc tuyến tính sao cho giá trị của hàm hai biến F (a, b) = ∑ i = 1 n (y i - (a x i + b)) 2 sẽ là nhỏ nhất. Nói cách khác, đối với các giá trị nhất định của a và b, tổng các độ lệch bình phương của dữ liệu được trình bày từ đường thẳng kết quả sẽ có giá trị nhỏ nhất. Đây là ý nghĩa của phương pháp bình phương nhỏ nhất. Tất cả những gì chúng ta phải làm để giải ví dụ này là tìm cực trị của hàm hai biến.

Cách rút ra các công thức tính hệ số

Để rút ra công thức tính các hệ số, cần lập và giải hệ phương trình hai biến. Để làm điều này, chúng tôi tính các đạo hàm riêng của biểu thức F (a , b) = ∑ i = 1 n (y i - (a x i + b)) 2 đối với a và b và đánh đồng chúng bằng 0 .

δ F (a , b) δ a = 0 δ F (a , b) δ b = 0 ⇔ - 2 ∑ i = 1 n (y i - (a x i + b)) x i = 0 - 2 ∑ i = 1 n ( y i - (a x i + b)) = 0 ⇔ a ∑ i = 1 n x i 2 + b ∑ i = 1 n x i = ∑ i = 1 n x i y i a ∑ i = 1 n x i + ∑ i = 1 n b = ∑ i = 1 n y i ⇔ a ∑ i = 1 n x i 2 + b ∑ i = 1 n x i = ∑ i = 1 n x i y i a ∑ i = 1 n x i + n b = ∑ i = 1 n y i

Để giải một hệ phương trình, bạn có thể sử dụng bất kỳ phương pháp nào, chẳng hạn như phép thế hoặc phương pháp Cramer. Kết quả là, chúng ta sẽ nhận được các công thức tính toán các hệ số bằng phương pháp bình phương nhỏ nhất.

n ∑ i = 1 n x i y i - ∑ i = 1 n x i ∑ i = 1 n y i n ∑ i = 1 n - ∑ i = 1 n x i 2 b = ∑ i = 1 n y i - a ∑ i = 1 n x i n

Chúng tôi đã tính toán các giá trị của các biến mà hàm
F (a , b) = ∑ i = 1 n (y i - (a x i + b)) 2 sẽ nhận giá trị nhỏ nhất. Trong đoạn thứ ba, chúng tôi sẽ chứng minh tại sao lại như vậy.

Đây là ứng dụng của phương pháp bình phương bé nhất trong thực tế. Công thức được sử dụng để tìm tham số a , bao gồm ∑ i = 1 n x i , ∑ i = 1 n y i , ∑ i = 1 n x i y i , ∑ i = 1 n x i 2 và tham số
n - nó biểu thị lượng dữ liệu thử nghiệm. Chúng tôi khuyên bạn nên tính toán từng khoản riêng biệt. Giá trị hệ số b được tính ngay sau a .

Hãy quay trở lại ví dụ ban đầu.

ví dụ 1

Ở đây chúng ta có n bằng năm. Để thuận tiện hơn trong việc tính toán số tiền cần thiết có trong các công thức hệ số, chúng tôi điền vào bảng.

tôi = 1 tôi = 2 tôi = 3 tôi = 4 tôi = 5 ∑ tôi = 1 5
x tôi 0 1 2 4 5 12
tôi 2 , 1 2 , 4 2 , 6 2 , 8 3 12 , 9
x tôi y tôi 0 2 , 4 5 , 2 11 , 2 15 33 , 8
tôi 2 0 1 4 16 25 46

Dung dịch

Hàng thứ tư chứa dữ liệu thu được bằng cách nhân các giá trị từ hàng thứ hai với các giá trị của hàng thứ ba cho mỗi cá nhân i . Dòng thứ năm chứa dữ liệu từ bình phương thứ hai. Cột cuối cùng hiển thị tổng giá trị của các hàng riêng lẻ.

Hãy sử dụng phương pháp bình phương nhỏ nhất để tính các hệ số a và b mà chúng ta cần. Để thực hiện việc này, hãy thay thế các giá trị mong muốn từ cột cuối cùng và tính tổng:

n ∑ i = 1 n x i y i - ∑ i = 1 n x i ∑ i = 1 n y i n ∑ i = 1 n - ∑ i = 1 n x i 2 b = ∑ i = 1 n y i - a ∑ i = 1 n x i n ⇒ a = 5 33 , 8 - 12 12, 9 5 46 - 12 2 b = 12, 9 - a 12 5 ⇒ a ≈ 0, 165 b ≈ 2, 184

Ta nhận được rằng đường thẳng gần đúng mong muốn sẽ có dạng y = 0 , 165 x + 2 , 184 . Bây giờ chúng ta cần xác định dòng nào sẽ xấp xỉ dữ liệu tốt nhất - g(x) = x + 1 3 + 1 hoặc 0 , 165 x + 2 , 184 . Hãy ước tính bằng phương pháp bình phương nhỏ nhất.

Để tính toán sai số, chúng ta cần tìm tổng bình phương độ lệch của dữ liệu từ các dòng σ 1 = ∑ i = 1 n (y i - (a x i + b i)) 2 và σ 2 = ∑ i = 1 n (y i - g (x i)) 2 , giá trị nhỏ nhất sẽ tương ứng với một dòng phù hợp hơn.

σ 1 = ∑ i = 1 n (y i - (a x i + b i)) 2 = = ∑ i = 1 5 (y i - (0 , 165 x i + 2 , 184)) 2 ≈ 0 , 019 σ 2 = ∑ i = 1 n (y i - g(x i)) 2 = = ∑ i = 1 5 (y i - (x i + 1 3 + 1)) 2 ≈ 0 , 096

Câu trả lời: kể từ σ 1< σ 2 , то прямой, наилучшим образом аппроксимирующей исходные данные, будет
y = 0 , 165 x + 2 , 184 .

Phương pháp bình phương tối thiểu được thể hiện rõ ràng trong hình minh họa. Đường màu đỏ đánh dấu đường thẳng g(x) = x + 1 3 + 1, đường màu xanh đánh dấu y = 0, 165 x + 2, 184. Dữ liệu thô được đánh dấu bằng các chấm màu hồng.

Hãy để chúng tôi giải thích lý do tại sao cần có các xấp xỉ chính xác của loại này.

Chúng có thể được sử dụng trong các bài toán yêu cầu làm trơn dữ liệu, cũng như trong các bài toán mà dữ liệu cần được nội suy hoặc ngoại suy. Ví dụ, trong bài toán đã thảo luận ở trên, người ta có thể tìm giá trị của đại lượng quan sát được y tại x = 3 hoặc tại x = 6 . Chúng tôi đã dành một bài viết riêng cho các ví dụ như vậy.

Bằng chứng về phương pháp LSM

Để hàm nhận giá trị nhỏ nhất khi a và b được tính, điều cần thiết là tại một điểm đã cho, ma trận dạng bậc hai của vi phân hàm có dạng F (a, b) = ∑ i = 1 n (y i - (a x i + b)) 2 là xác định dương. Hãy cho bạn thấy nó trông như thế nào.

ví dụ 2

Ta có vi phân cấp hai có dạng sau:

d 2 F (a ; b) = δ 2 F (a ; b) δ a 2 d 2 a + 2 δ 2 F (a ; b) δ a δ b d a d b + δ 2 F (a ; b) δ b 2 d 2b

Dung dịch

δ 2 F (a ; b) δ a 2 = δ δ F (a ; b) δ a δ a = = δ - 2 ∑ i = 1 n (y i - (a x i + b)) x i δ a = 2 ∑ i = 1 n (x i) 2 δ 2 F (a ; b) δ a δ b = δ δ F (a ; b) δ a δ b = = δ - 2 ∑ i = 1 n (y i - (a x i + b) ) x i δ b = 2 ∑ i = 1 n x i δ 2 F (a ; b) δ b 2 = δ δ F (a ; b) δ b δ b = δ - 2 ∑ i = 1 n (y i - (a x i + b)) δ b = 2 ∑ i = 1 n (1) = 2 n

Nói cách khác, nó có thể được viết như sau: d 2 F (a ; b) = 2 ∑ i = 1 n (x i) 2 d 2 a + 2 2 ∑ x i i = 1 n d a d b + (2 n) d 2 b .

Ta thu được ma trận dạng bậc hai M = 2 ∑ i = 1 n ( x i ) 2 2 ∑ i = 1 n x i 2 ∑ i = 1 n x i 2 n .

Trong trường hợp này, giá trị của các phần tử riêng lẻ sẽ không thay đổi tùy thuộc vào a và b . Ma trận này có xác định dương không? Để trả lời câu hỏi này, hãy kiểm tra xem các góc phụ của nó có dương không.

Tính toán góc nhỏ bậc nhất: 2 ∑ i = 1 n (x i) 2 > 0 . Vì các điểm x i không trùng nhau nên bất đẳng thức nghiêm ngặt. Chúng tôi sẽ ghi nhớ điều này trong các tính toán tiếp theo.

Chúng tôi tính toán góc phụ thứ hai:

d e t (M) = 2 ∑ i = 1 n (x i) 2 2 ∑ i = 1 n x i 2 ∑ i = 1 n x i 2 n = 4 n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2

Sau đó, ta tiến hành chứng minh bất đẳng thức n ∑ i = 1 n(x i) 2 - ∑ i = 1 n x i 2 > 0 bằng quy nạp toán học.

  1. Hãy kiểm tra xem bất đẳng thức này có đúng với n tùy ý hay không. Hãy lấy 2 và tính toán:

2 ∑ i = 1 2 (x i ) 2 - ∑ i = 1 2 x i 2 = 2 x 1 2 + x 2 2 - x 1 + x 2 2 = = x 1 2 - 2 x 1 x 2 + x 2 2 = x 1 + x 2 2 > 0

Chúng tôi đã nhận được đẳng thức chính xác (nếu các giá trị x 1 và x 2 không khớp).

  1. Hãy giả định rằng bất đẳng thức này sẽ đúng với n , tức là n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 – đúng.
  2. Bây giờ hãy chứng minh tính hợp lệ của n + 1 , tức là rằng (n + 1) ∑ i = 1 n + 1 (x i) 2 - ∑ i = 1 n + 1 x i 2 > 0 nếu n ∑ i = 1 n (x i) 2 - ∑ i = 1 n x i 2 > 0 .

Chúng tôi tính toán:

(n + 1) ∑ i = 1 n + 1 (x i ) 2 - ∑ i = 1 n + 1 x i 2 = = ( n + 1) ∑ i = 1 n ( x i ) 2 + x n + 1 2 - ∑ i = 1 n x i + x n + 1 2 = = n ∑ i = 1 n(x i) 2 + n x n + 1 2 + ∑ i = 1 n(x i) 2 + x n + 1 2 − − ∑ i = 1 n x i 2 + 2 x n + 1 ∑ i = 1 n x i + x n + 1 2 = = ∑ i = 1 n(x i) 2 − ∑ i = 1 n x i 2 + n x n + 1 2 − x n + 1 ∑ i = 1 n x i + ∑ i = 1 n(x i)2 = = ∑ i = 1 n(x i)2 - ∑ i = 1 n x i 2 + x n + 1 2 - 2 x n + 1 x 1 + x 1 2 + + x n + 1 2 - 2 x n + 1 x 2 + x 2 2 + . . . + x n + 1 2 - 2 x n + 1 x 1 + x n 2 = = n ∑ i = 1 n ( x i ) 2 - ∑ i = 1 n x i 2 + + ( x n + 1 - x 1 ) 2 + ( x n + 1 - x 2) 2 + . . . + (x n - 1 - x n) 2 > 0

Biểu thức nằm trong dấu ngoặc nhọn sẽ lớn hơn 0 (dựa trên những gì chúng ta đã giả định ở bước 2) và các số hạng còn lại sẽ lớn hơn 0 vì chúng đều là bình phương của các số. Ta đã chứng minh được bất đẳng thức.

Câu trả lời: a, b tìm được sẽ ứng với giá trị nhỏ nhất của hàm số F(a, b) = ∑ i = 1 n(y i - (a x i + b)) 2, nghĩa là chúng là tham số bắt buộc của phương pháp bình phương nhỏ nhất (LSM).

Nếu bạn nhận thấy một lỗi trong văn bản, hãy đánh dấu nó và nhấn Ctrl + Enter

Phương pháp bình phương nhỏ nhất (LSM) cho phép bạn ước tính các đại lượng khác nhau bằng cách sử dụng kết quả của nhiều phép đo chứa sai số ngẫu nhiên.

MNC đặc trưng

Ý tưởng chính của phương pháp này là tổng các lỗi bình phương được coi là một tiêu chí cho độ chính xác của giải pháp của vấn đề, được tìm cách giảm thiểu. Khi sử dụng phương pháp này, có thể áp dụng cả phương pháp số và phương pháp phân tích.

Cụ thể, như là một triển khai số, phương pháp bình phương nhỏ nhất có nghĩa là thực hiện càng nhiều phép đo của một biến ngẫu nhiên chưa biết càng tốt. Hơn nữa, càng nhiều phép tính, giải pháp sẽ càng chính xác. Trên tập hợp tính toán này (dữ liệu ban đầu), một tập hợp các giải pháp được đề xuất khác sẽ thu được, từ đó giải pháp tốt nhất sẽ được chọn. Nếu tập hợp các giải pháp được tham số hóa, thì phương pháp bình phương nhỏ nhất sẽ được rút gọn thành việc tìm giá trị tối ưu của các tham số.

Là một cách tiếp cận phân tích để thực hiện LSM trên tập hợp dữ liệu ban đầu (đo lường) và tập hợp các giải pháp được đề xuất, một số (chức năng) được xác định, có thể được biểu thị bằng một công thức thu được dưới dạng một giả thuyết nhất định cần được xác nhận. Trong trường hợp này, phương pháp bình phương nhỏ nhất được rút gọn thành việc tìm giá trị cực tiểu của hàm này trên tập các sai số bình phương của dữ liệu ban đầu.

Lưu ý rằng không phải bản thân lỗi, mà là bình phương của lỗi. Tại sao? Thực tế là độ lệch của các phép đo so với giá trị chính xác thường là cả dương và âm. Khi xác định giá trị trung bình, phép tổng đơn giản có thể dẫn đến kết luận không chính xác về chất lượng của ước tính, do việc hủy lẫn nhau các giá trị dương và âm sẽ làm giảm khả năng lấy mẫu của tập hợp các phép đo. Và, do đó, tính chính xác của đánh giá.

Để tránh điều này xảy ra, các độ lệch bình phương được cộng lại. Hơn thế nữa, để cân bằng thứ nguyên của giá trị đo được và ước tính cuối cùng, tổng các sai số bình phương được sử dụng để trích xuất

Một số ứng dụng của MNCs

MNC được sử dụng rộng rãi trong các lĩnh vực khác nhau. Ví dụ, trong lý thuyết xác suất và thống kê toán học, phương pháp này được sử dụng để xác định một đặc tính của biến ngẫu nhiên như độ lệch chuẩn, xác định độ rộng của phạm vi giá trị của biến ngẫu nhiên.

  • hướng dẫn

Giới thiệu

Tôi là một lập trình viên máy tính. Tôi đã có bước nhảy vọt lớn nhất trong sự nghiệp của mình khi tôi học được cách nói: "Tôi không hiểu gì!" Bây giờ tôi không xấu hổ khi nói với ngôi sao khoa học rằng anh ấy đang giảng bài cho tôi, rằng tôi không hiểu ngôi sao đó, ngôi sao sáng, đang nói với tôi về điều gì. Và nó rất khó khăn. Vâng, thật khó và xấu hổ khi thừa nhận bạn không biết. Ai thích thừa nhận rằng anh ta không biết những điều cơ bản của một cái gì đó ở đó. Nhờ nghề nghiệp của mình, tôi phải tham dự một số lượng lớn các buổi thuyết trình và bài giảng, thú thật là trong đó, trong phần lớn các trường hợp, tôi cảm thấy buồn ngủ vì tôi không hiểu gì cả. Và tôi không hiểu vì vấn đề lớn của tình hình khoa học hiện nay nằm ở toán học. Nó giả định rằng tất cả học sinh đều quen thuộc với tất cả các lĩnh vực toán học (điều này là vô lý). Phải thừa nhận rằng bạn không biết đạo hàm là gì (điều này nói sau một chút) là một điều đáng xấu hổ.

Nhưng tôi đã học để nói rằng tôi không biết phép nhân là gì. Vâng, tôi không biết đại số con trên đại số Lie là gì. Vâng, tôi không biết tại sao cần có phương trình bậc hai trong cuộc sống. Nhân tiện, nếu bạn chắc chắn rằng mình biết, thì chúng ta có chuyện để nói! Toán học là một loạt các thủ thuật. Các nhà toán học cố gắng gây nhầm lẫn và đe dọa công chúng; nơi không có nhầm lẫn, không có danh tiếng, không có quyền hạn. Vâng, thật uy tín khi nói bằng ngôn ngữ trừu tượng nhất có thể, bản thân nó hoàn toàn vô nghĩa.

Bạn có biết đạo hàm là gì không? Rất có thể bạn sẽ cho tôi biết về giới hạn của quan hệ khác biệt. Trong năm đầu tiên của toán học tại Đại học bang St. Petersburg, Viktor Petrovich Khavin me xác địnhđạo hàm là hệ số của số hạng đầu tiên trong chuỗi Taylor của hàm tại điểm (việc xác định chuỗi Taylor không có đạo hàm là một bài tập riêng biệt). Tôi đã cười nhạo định nghĩa này trong một thời gian dài, cho đến khi cuối cùng tôi hiểu nó nói về cái gì. Đạo hàm không gì khác hơn là chỉ là thước đo xem hàm chúng ta đang lấy đạo hàm tương tự như hàm y=x, y=x^2, y=x^3.

Bây giờ tôi có vinh dự được giảng bài cho những sinh viên nỗi sợ toán học. Nếu bạn sợ toán học - chúng tôi đang trên đường đến. Ngay khi bạn cố gắng đọc một số văn bản và đối với bạn, nó có vẻ quá phức tạp, thì hãy biết rằng nó được viết rất tệ. Tôi lập luận rằng không có một lĩnh vực toán học nào không thể nói về "trên ngón tay" mà không làm mất đi độ chính xác.

Thách thức cho tương lai gần: Tôi đã hướng dẫn học sinh của mình hiểu bộ điều khiển tuyến tính-bậc hai là gì. Đừng ngại, hãy lãng phí ba phút trong cuộc đời của bạn, hãy nhấp vào liên kết. Nếu bạn không hiểu bất cứ điều gì, sau đó chúng tôi đang trên đường. Tôi (một nhà toán học-lập trình viên chuyên nghiệp) cũng không hiểu gì cả. Và tôi đảm bảo với bạn, điều này có thể được giải quyết "trên đầu ngón tay." Hiện tại tôi không biết nó là gì, nhưng tôi đảm bảo với bạn rằng chúng tôi sẽ có thể tìm ra nó.

Vì vậy, bài giảng đầu tiên mà tôi sẽ giảng cho các sinh viên của mình sau khi họ kinh hãi chạy đến chỗ tôi với những lời rằng bộ điều khiển tuyến tính-bậc hai là một lỗi khủng khiếp mà bạn sẽ không bao giờ thành thạo trong đời là phương pháp bình phương tối thiểu. Bạn có thể giải phương trình tuyến tính? Nếu bạn đang đọc văn bản này, thì rất có thể là không.

Vì vậy, cho trước hai điểm (x0, y0), (x1, y1), chẳng hạn (1,1) và (3,2), nhiệm vụ là tìm phương trình của đường thẳng đi qua hai điểm này:

hình minh họa

Đường thẳng này phải có phương trình như sau:

Ở đây chúng tôi không biết alpha và beta, nhưng hai điểm của dòng này được biết:

Bạn có thể viết phương trình này dưới dạng ma trận:

Ở đây chúng ta nên thực hiện một sự lạc đề trữ tình: ma trận là gì? Một ma trận không là gì ngoài một mảng hai chiều. Đây là một cách lưu trữ dữ liệu, không nên gán thêm giá trị nào cho nó. Việc giải thích chính xác một ma trận nhất định như thế nào là tùy thuộc vào chúng ta. Theo chu kỳ, tôi sẽ diễn giải nó dưới dạng ánh xạ tuyến tính, theo chu kỳ dưới dạng bậc hai và đôi khi chỉ đơn giản là một tập hợp các vectơ. Tất cả điều này sẽ được làm rõ trong bối cảnh.

Hãy thay thế các ma trận cụ thể bằng biểu diễn tượng trưng của chúng:

Sau đó (alpha, beta) có thể dễ dàng tìm thấy:

Cụ thể hơn cho dữ liệu trước đây của chúng tôi:

Dẫn đến phương trình sau của đường thẳng đi qua các điểm (1,1) và (3,2):

Được rồi, mọi thứ rõ ràng ở đây. Và hãy tìm phương trình đường thẳng đi qua số bađiểm: (x0,y0), (x1,y1) và (x2,y2):

Oh-oh-oh, nhưng chúng ta có ba phương trình cho hai ẩn số! Nhà toán học tiêu chuẩn sẽ nói rằng không có giải pháp. Lập trình viên sẽ nói gì? Và trước tiên anh ta sẽ viết lại hệ phương trình trước đó ở dạng sau:

Trong trường hợp của chúng tôi, các vectơ i, j, b là ba chiều, do đó, (trong trường hợp chung) không có giải pháp cho hệ thống này. Bất kỳ vectơ nào (alpha\*i + beta\*j) đều nằm trong mặt phẳng kéo dài bởi các vectơ (i, j). Nếu b không thuộc mặt phẳng này thì không có nghiệm (không thể đạt được đẳng thức trong phương trình). phải làm gì? Hãy tìm kiếm một sự thỏa hiệp. Hãy biểu thị bằng e(alpha, beta) chính xác thì chúng ta đã không đạt được sự bình đẳng như thế nào:

Và chúng tôi sẽ cố gắng giảm thiểu lỗi này:

Tại sao một hình vuông?

Chúng tôi không chỉ tìm kiếm mức tối thiểu của định mức, mà còn tìm kiếm mức tối thiểu của bình phương của định mức. Tại sao? Bản thân điểm cực tiểu trùng khớp và hình vuông cho hàm trơn (hàm bậc hai của các đối số (alpha,beta)), trong khi chỉ độ dài cho hàm ở dạng hình nón, không khả vi tại điểm cực tiểu. Anh à. Vuông thuận tiện hơn.

Rõ ràng, lỗi được giảm thiểu khi vectơ e vuông góc với mặt phẳng chứa các vectơ tôij.

Hình minh họa

Nói cách khác: chúng tôi đang tìm kiếm một đường thẳng sao cho tổng bình phương độ dài của khoảng cách từ tất cả các điểm đến đường thẳng này là nhỏ nhất:

CẬP NHẬT: ở đây tôi có một tiếng kêu, khoảng cách đến đường thẳng phải được đo theo chiều dọc, không phải phép chiếu chính tả. Bình luận viên này là chính xác.

Hình minh họa

Nói cách hoàn toàn khác (cẩn thận, kém chính thức, nhưng nó phải rõ ràng trên các ngón tay): chúng tôi lấy tất cả các đường có thể có giữa tất cả các cặp điểm và tìm đường trung bình giữa tất cả:

Hình minh họa

Một lời giải thích khác trên các ngón tay: chúng tôi gắn một lò xo giữa tất cả các điểm dữ liệu (ở đây chúng tôi có ba điểm) và đường mà chúng tôi đang tìm kiếm, và đường trạng thái cân bằng chính xác là những gì chúng tôi đang tìm kiếm.

Dạng bậc hai tối thiểu

Vì vậy, đã cho vectơ b và mặt phẳng kéo dài bởi các vectơ-cột của ma trận Một(trong trường hợp này (x0,x1,x2) và (1,1,1)), chúng tôi đang tìm kiếm một vectơ e với một bình phương chiều dài tối thiểu. Rõ ràng, mức tối thiểu chỉ có thể đạt được đối với vectơ e, trực giao với mặt phẳng kéo dài bởi các vectơ cột của ma trận Một:

Nói cách khác, chúng ta đang tìm một vectơ x=(alpha, beta) sao cho:

Tôi xin nhắc bạn rằng vectơ x=(alpha, beta) này là giá trị nhỏ nhất của hàm bậc hai ||e(alpha, beta)||^2:

Ở đây cần nhớ rằng ma trận có thể được hiểu cũng như dạng bậc hai, ví dụ, ma trận đơn vị ((1,0),(0,1)) có thể được hiểu là một hàm của x^2 + y ^2:

dạng bậc hai

Tất cả thể dục dụng cụ này được gọi là hồi quy tuyến tính.

Phương trình Laplace với điều kiện biên Dirichlet

Bây giờ vấn đề thực sự đơn giản nhất: có một bề mặt hình tam giác nhất định, cần phải làm phẳng nó. Ví dụ: hãy tải mô hình khuôn mặt của tôi:

Cam kết ban đầu có sẵn. Để giảm thiểu sự phụ thuộc bên ngoài, tôi đã lấy mã của trình kết xuất phần mềm của mình, đã có trên Habré. Để giải hệ phương trình tuyến tính, tôi sử dụng OpenNL , nó là một bộ giải tuyệt vời, nhưng rất khó cài đặt: bạn cần sao chép hai tệp (.h + .c) vào thư mục dự án của mình. Tất cả việc làm mịn được thực hiện bởi đoạn mã sau:

Đối với (int d=0; d<3; d++) { nlNewContext(); nlSolverParameteri(NL_NB_VARIABLES, verts.size()); nlSolverParameteri(NL_LEAST_SQUARES, NL_TRUE); nlBegin(NL_SYSTEM); nlBegin(NL_MATRIX); for (int i=0; i<(int)verts.size(); i++) { nlBegin(NL_ROW); nlCoefficient(i, 1); nlRightHandSide(verts[i][d]); nlEnd(NL_ROW); } for (unsigned int i=0; i&face = khuôn mặt[i]; cho (int j=0; j<3; j++) { nlBegin(NL_ROW); nlCoefficient(face[ j ], 1); nlCoefficient(face[(j+1)%3], -1); nlEnd(NL_ROW); } } nlEnd(NL_MATRIX); nlEnd(NL_SYSTEM); nlSolve(); for (int i=0; i<(int)verts.size(); i++) { verts[i][d] = nlGetVariable(i); } }

Các tọa độ X, Y và Z có thể tách rời, tôi làm mịn chúng một cách riêng biệt. Đó là, tôi giải ba hệ phương trình tuyến tính, mỗi hệ có cùng số biến bằng số đỉnh trong mô hình của tôi. N hàng đầu tiên của ma trận A chỉ có một số 1 trên mỗi hàng và n hàng đầu tiên của vectơ b có tọa độ mô hình ban đầu. Đó là, tôi liên kết giữa vị trí đỉnh mới và vị trí đỉnh cũ - vị trí mới không được quá xa so với vị trí cũ.

Tất cả các hàng tiếp theo của ma trận A (faces.size()*3 = số cạnh của tất cả các hình tam giác trong lưới) có một lần xuất hiện 1 và một lần xuất hiện -1, trong khi vectơ b không có thành phần đối diện. Điều này có nghĩa là tôi đặt một lò xo trên mỗi cạnh của lưới tam giác của chúng ta: tất cả các cạnh đều cố gắng lấy cùng một đỉnh làm điểm bắt đầu và điểm kết thúc của chúng.

Một lần nữa: tất cả các đỉnh đều là các biến và chúng không thể lệch xa khỏi vị trí ban đầu, nhưng đồng thời chúng cố gắng trở nên giống nhau.

Đây là kết quả:

Mọi thứ sẽ ổn thôi, mô hình thực sự được làm mịn, nhưng nó bị lệch khỏi cạnh ban đầu. Hãy thay đổi mã một chút:

Đối với (int i=0; tôi<(int)verts.size(); i++) { float scale = border[i] ? 1000: 1; nlBegin(NL_ROW); nlCoefficient(i, scale); nlRightHandSide(scale*verts[i][d]); nlEnd(NL_ROW); }

Trong ma trận A của chúng ta, đối với các đỉnh nằm trên cạnh, tôi không thêm một hàng từ danh mục v_i = verts[i][d], mà là 1000*v_i = 1000*verts[i][d]. Nó thay đổi những gì? Và điều này thay đổi dạng bậc hai của lỗi. Bây giờ, một độ lệch duy nhất so với đỉnh ở cạnh sẽ không phải là một đơn vị như trước đây, mà là 1000 * 1000 đơn vị. Đó là, chúng tôi đã treo một lò xo mạnh hơn trên các đỉnh cực trị, giải pháp thích kéo dài các đỉnh khác mạnh hơn. Đây là kết quả:

Hãy nhân đôi sức mạnh của lò xo giữa các đỉnh:
nlHệ số(mặt[ j ], 2); nlHệ số(mặt[(j+1)%3], -2);

Điều hợp lý là bề mặt đã trở nên mịn màng hơn:

Và bây giờ thậm chí còn mạnh hơn gấp trăm lần:

Đây là gì? Hãy tưởng tượng rằng chúng ta đã nhúng một vòng dây vào nước xà phòng. Do đó, màng xà phòng thu được sẽ cố gắng có độ cong ít nhất có thể, chạm vào cùng một đường viền - vòng dây của chúng ta. Đây chính xác là những gì chúng tôi nhận được bằng cách sửa đường viền và yêu cầu bề mặt nhẵn bên trong. Xin chúc mừng, chúng ta vừa giải được phương trình Laplace với điều kiện biên Dirichlet. Nghe hay đấy? Nhưng trên thực tế, chỉ cần một hệ phương trình tuyến tính để giải quyết.

phương trình Poisson

Hãy có một cái tên hay ho khác.

Giả sử tôi có một hình ảnh như thế này:

Mọi người đều tốt, nhưng tôi không thích cái ghế.

Tôi cắt hình làm đôi:



Và tôi sẽ chọn một chiếc ghế bằng tay của mình:

Sau đó, tôi sẽ kéo mọi thứ có màu trắng trong mặt nạ sang phía bên trái của bức tranh, đồng thời tôi sẽ nói xuyên suốt toàn bộ bức tranh rằng hiệu giữa hai pixel lân cận phải bằng hiệu giữa hai pixel lân cận của hình ảnh bên phải:

Đối với (int i=0; tôi

Đây là kết quả:

Mã và hình ảnh có sẵn