從原研究出發
閱讀李維倫、古慧雯、駱明慶與林明仁(2020)的〈入學管道與學習表現〉,讓我想到一個值得進一步討論的問題:當我們說某一種入學管道的學生「表現比較好」,究竟是在比較哪一種表現?
這項研究使用2007至2014年入學的台大學生資料,發現繁星生的平均學業表現較佳;個人申請生相較於指考生的成績優勢,則大部分可以由學測成績的差異解釋。這些結果讓招生制度的討論,有了實際學生表現作為依據。(李維倫等人,2020)
我想從這個基礎再往前問:如果不同招生制度重視不同資訊,而我們用來評估學生的指標,也偏重某些特定表現,那麼,招生制度的評價是否會隨著衡量方式而改變?
在比較哪一種制度更會選才之前,或許可以先討論:大學希望看見的「人才」,包含哪些能力與表現?
在校成績是一把重要的尺,但它衡量的是什麼?
大學在校成績當然值得重視。不過,在校成績與大型考試成績,未必只是同一種能力的兩種寫法。Borghans等人(2016)發現,學業成績與成就測驗分數都包含認知能力及人格特質的資訊,但兩者的相對重要性不同。人格特質對在校成績的預測相對較重要,認知能力對成就測驗分數的預測相對較重要。這表示兩類指標有所重疊,也各自包含不同資訊,不能簡單把它們分成「一個只測努力,一個只測能力」。
此外,平均成績還涉及學生修了哪些課。Berry與Sackett(2009)指出,學生的選課差異會影響累積平均成績,進而影響我們對招生工具預測能力的判斷。他們改以個別課程成績進行分析後,高中成績與入學測驗的預測效度,都與使用整體平均成績時有所不同。因此,即使都稱作「大學成績」,如何組成這個指標,也會影響研究結果的解讀。
這讓我想到:如果招生時重視高中長期在校表現,入學後又以長期課程成績作為主要成果,前後兩者可能共同反映某些持續性的學習特質。這種相似性可以是有價值的預測來源。但當討論延伸到更廣泛的學術能力、問題解決或人才培育時,就值得加入其他面向的證據。(Borghans et al., 2016;Berry & Sackett, 2009)
我的疑問,在於不同評量方式是否看見不同的優勢
不妨設想兩位學生。
一位學生能長期穩定完成課程要求,各次作業與測驗都有不錯的表現。另一位學生在日常課程中的表現比較不穩定,卻能在某些大型考試中展現較好的整合與解題表現。這只是用來說明問題的假設,不能據此把繁星生與指考生分別貼上這兩種標籤。
如果後續評估主要依據長期課程成績,第一位學生可能比較有優勢;如果主要依據某種統一筆試,結果也可能不同。但究竟會不會如此,應該留給資料檢驗。已有文獻支持不同成績指標包含不同特質資訊,卻不能直接替台灣不同入學管道的學生作出這種分類。(Borghans et al., 2016)
因此,我在意的是:
當某一群學生在特定指標上表現較好時,我們能否更清楚地說明,他們在哪些面向較好,以及這些面向與大學的教育目標有什麼關係?
這也不表示換成大型標準化考試,就一定比較公平。公平不應被理解為替不同群體各找一把能夠勝出的尺;更重要的是,衡量內容是否對應我們真正重視的教育成果。
長期學業表現的價值,也未必只存在於預測下一份成績單。Allensworth與Clark(2020)在美國樣本中發現,高中平均成績與大學畢業之間具有較強且較穩定的關係,相較之下,ACT成績與畢業的關係較弱。這提醒我們,對在校成績提出更多問題的同時,也應承認它可能包含超出考試分數的重要資訊。
我期待的是把不同指標放在一起理解,讓各自的價值與限制都能被看見。
把研究問題轉向「不同招生資訊的互補性」
沿著這個觀點,我認為值得發展的研究問題是:
高中在校成績與大型入學考試成績,對不同類型的大學學習成果,各自能提供多少額外的預測資訊?
這個問題不必把入學管道當成一種會改變學生能力的「處理」。它關心的是,招生時已經存在的資訊,能否協助我們辨識學生後續不同面向的表現。Shmueli(2010)指出,因果解釋與預測是不同的研究目標,模型設計與驗證方式也應隨之調整。能夠預測某種結果,不等於已經證明造成這個結果的原因。
具體而言,我會建議在同一批學生身上,盡可能蒐集定義一致的高中成績或校內排名、共同入學考試成績,以及高中與學習背景資訊。入學管道可以作為描述學生來源的分類,但不宜直接取代實際的高中表現資料。對沒有參加某一項考試的學生,也不應把其他考試成績當作其未被觀察到的考試結果。
接著,在相同樣本與相同背景資訊下,分別比較使用高中成績、使用入學考試成績,以及同時使用兩者的預測表現。真正值得觀察的是,增加一項資訊之後,對新學生的預測能改善多少,而非只比較迴歸係數大小,或哪個變數達到統計顯著。(Shmueli, 2010)
例如,可以用前幾屆學生建立模型,再用後續入學、尚未參與模型建立的學生檢驗。研究開始前,也先界定要預測哪些成果、如何處理缺漏資料,以及如何衡量預測誤差,避免看到結果後才選擇最有利的指標。這些是我認為可採行的設計方向,其核心是把研究目標明確設定為可被新資料驗證的預測。(Shmueli, 2010)
不過,預測研究同樣要交代適用範圍。在某所大學已錄取學生中得到的模型,首先適用於相近的學生與制度情境;它不能直接回答,改變招生名額後,哪些原本未錄取的學生會進來,以及整體結果會如何改變。預測能力也需要在新的資料與使用情境中重新檢驗。(Shmueli, 2010)
從平均成績,進一步走向同一群學生的多面向評量
原研究已經分析新生英語聽力與微積分等個別課程,因此後續研究可以沿著這條路再往下細分。尤其新生英聽屬於入學時的測量,個別課程成績則發生在修課之後,兩者在內容與時點上都需要分別理解。(李維倫等人,2020)
我會建議,除了課程總成績,也記錄一門課內不同評量項目的表現。以統計學為例,可以分開觀察平時習作、共同筆試,以及運用陌生資料完成分析報告的成果,而不是全部加權後,只留下最後一個總分。
這樣的研究有機會更具體地回答:高中在校表現與大考成績,分別較能預測課程要求的哪些部分?兩者合併使用,是否比任何一項單獨使用更有幫助?這項建議是從既有文獻對成績組成與選課差異的討論延伸而來。(Berry & Sackett, 2009)
為了讓比較更有意義,我也會建議盡量採用共同題目或經過等值檢驗的測驗版本,對分析報告設定一致的評分規準,並在可行時讓評分者不知道學生的入學管道。多次測量也可以幫助研究者區分,一次表現的波動與相對穩定的表現差異。這些都應在研究設計階段規劃,而非在最後一張成績表上補救。
另一個值得追蹤的面向,是學生的學習變化。若能在入學與修課後,以具有可比性的工具測量相同學習目標,就可以觀察學生從原有基礎出發的進展。這裡先描述的是學習變化,而不是直接把變化歸因於某一種招生制度。
因此,研究可以同時呈現「學生目前達到什麼程度」與「學生在一段時間內進步多少」,讓起點與後續發展都有機會被看見。
真正需要因果檢驗時,可以研究「評量條件」
對於「不同評量方式是否讓某些學生更容易展現能力」這個疑問,還可以提出一個更聚焦的實驗設計。
例如,在不影響正式課程成績的研究評量中,針對相同學習目標設計難度相近的測驗版本,隨機安排較嚴格與較充裕的作答時間。每位學生可以在不同版本中經歷不同條件,版本與作答順序也隨機安排,並盡量維持評分方式與參與誘因一致。
這樣的設計,真正隨機改變的是作答條件。因此,它要識別的是「時間限制對測驗表現的影響」,以及這種影響在不同既有表現特徵的學生之間是否有所差異。即使進一步按入學管道呈現結果,也不能把差異解讀為入學管道本身造成了能力差異。
這是我提出的研究方向,也有明確的範圍:一次研究測驗無法完整重現升學大考的壓力,更無法取代四年的課程學習。但它可以把原本較抽象的疑問,拆成一個能夠直接檢驗的問題。
如此一來,研究的重點就從「哪一種入學身分使學生更優秀」,轉向「哪些評量條件影響學生展現已具備的能力」。研究問題、可操控的變數與能夠作出的推論,會比較一致。這也呼應了因果解釋與預測應依研究目的分別設計的觀點。(Shmueli, 2010)
多元入學,也值得有多元的成果觀察
我的觀點並不預先假定,換一種評量方式,指考生就一定比較好。
如果後續資料顯示,高中在校成績對共同筆試、專題表現、畢業與其他成果,都具有穩定的額外預測價值,我們就應該接受它具有跨面向的資訊價值。若不同招生資訊對不同成果各有優勢,則可以進一步研究如何組合它們。這些都應是研究可能接受的結果,而非事先決定的立場。
對我而言,這樣的延伸最有意義的地方,是讓「選才」的討論更具體。
大學可以重視穩定完成課業的能力,也可以重視面對陌生問題的推理、長期投入研究的能力,以及把知識應用到實際情境的表現。各項目標應有多少權重,還需要教育理念與公共討論,不能只由某一個最容易取得的指標代為決定。
〈入學管道與學習表現〉提供了理解學生後續表現的重要起點。沿著這個起點,我更想追問的是:我們使用的招生資訊與成果指標,分別讓哪些能力被看見,又有哪些能力還需要進一步觀察?
多元入學的研究,可以從比較不同管道的學生表現,繼續走向理解不同資訊的價值。當我們更清楚自己在衡量什麼,也才更有機會討論,大學究竟希望選進什麼樣的學生,以及如何幫助他們發展。
參考文獻
李維倫、古慧雯、駱明慶、林明仁(2020)。入學管道與學習表現。經濟論文叢刊,48(1),31-76。https://doi.org/10.6277/TER.202003_48(1).0002
Allensworth, E. M., & Clark, K. (2020). High school GPAs and ACT scores as predictors of college completion: Examining assumptions about consistency across high schools. Educational Researcher, 49(3), 198-211. https://doi.org/10.3102/0013189X20902110
Berry, C. M., & Sackett, P. R. (2009). Individual differences in course choice result in underestimation of the validity of college admissions systems. Psychological Science, 20(7), 822-830. https://doi.org/10.1111/j.1467-9280.2009.02368.x
Borghans, L., Golsteyn, B. H. H., Heckman, J. J., & Humphries, J. E. (2016). What grades and achievement tests measure. Proceedings of the National Academy of Sciences, 113(47), 13354-13359. https://doi.org/10.1073/pnas.1601135113
Shmueli, G. (2010). To explain or to predict? Statistical Science, 25(3), 289-310. https://doi.org/10.1214/10-STS330
延伸閱讀
從經濟學出發,讀懂研究與制度
回到經濟學的基本觀念,練習分辨研究問題、衡量方式與推論範圍。
前往教學專區
