使用ChatGPT一年半了，陶哲軒的感想如何？

最近，一直沖鋒在探索AI輔助研究功能前線的數(shù)學(xué)大神陶哲軒，總結(jié)了ChatGPT對自己數(shù)學(xué)研究過程的幫助。

有趣的是，他發(fā)現(xiàn)AI輔助在數(shù)學(xué)方面的用處倒是有限，但它大大提升的，是自己在次要任務(wù)上的能力，比如編碼和制作圖表。

所以說，想要搞好數(shù)學(xué)研究，還是需要扎實的數(shù)學(xué)基礎(chǔ)，純靠AI是沒用的。

數(shù)學(xué)不好的人，其實AI的幫助可能也沒那么大

陶哲軒表示，使用#Python的matplotlib.pyplot庫的一個額外收獲是，自己現(xiàn)在可以相對輕松地創(chuàng)建定性圖表，來說明更多非正式關(guān)系了。

在以前，他只能用文字或者草草繪制的手寫草圖來表達(dá)這種非正式關(guān)系。

為此，陶哲軒發(fā)現(xiàn)了一個有效的工作流：向ChatGPT請求一個簡化示例的代碼，然后自己調(diào)整和修改代碼，直到輸出符合預(yù)期為止。

比如，通過下面這幾輪對話，在幾分鐘內(nèi)他就得到了自己想要的圖表。

最后陶哲軒總結(jié)道，AI輔助在自己主要研究的數(shù)學(xué)領(lǐng)域倒是用處有限，但它大大提高了自己在編碼、制作圖表這類次要任務(wù)中的能力，同時也將自己在一般任務(wù)中的能力，提升到了至少是初學(xué)者的水平。

同時他也點出，在自己看來，對于那些精通編程但并不那么精通數(shù)學(xué)的人來說，AI輔助可能就不會起到這么大的作用。

陶哲軒和ChatGPT的對話，具體如下——

https://chatgpt.com/share/064ae58d-7400-4589-a027-d66a8a8a236e

陶哲軒問：「在Python中，我知道如何使用pyplot軟件包制作圖形的單個圖像。有什么方法可以讓我用Python制作多個圖形的幻燈片或其他動畫圖像嗎？比如，制作一個幻燈片，展示函數(shù)$x$, $x^2$, $x^3$, $x^4$對于$x \in [0,1]$的圖形。」

ChatGPT回答說：「是的，你可以使用matplotlib包中的matplotlib.animation模塊，在Python中創(chuàng)建多個圖形的幻燈片或動畫圖像。 」

接下來，ChatGPT就給出了創(chuàng)建該函數(shù)動畫的具體步驟，詳細(xì)給出了代碼——

1. Install matplotlib if you haven't already:

pip install matplotlib

2. Use the following code to create an animation:

import numpy as np
import matplotlib.pyplot as plt
import matplotlib.animation as animation


# Define the range for x
x = np.linspace(0, 1, 400)


# Define the functions
functions = [lambda x: x, lambda x: x**2, lambda x: x**3, lambda x: x**4]


# Create a figure and axis
fig, ax = plt.subplots()
line, = ax.plot(x, functions[0](x))


# Set axis labels and title
ax.set_xlabel('x')
ax.set_ylabel('f(x)')
ax.set_title('Animated Functions')


# Initialize the animation function
def init():
    line.set_ydata([np.nan] * len(x))
    return line,


# Update the animation function
def update(frame):
    line.set_ydata(functions[frame](x))
    ax.set_title(f'Function: $x^{frame+1}$')
    return line,


# Create the animation
ani = animation.FuncAnimation(
    fig, update, frames=len(functions), init_func=init, blit=True, repeat=True, interval=1000
)


# Save the animation as a gif
ani.save('animated_functions.gif', writer='imagemagick')


plt.show()

同時， ChatGPT還給出了相應(yīng)解釋：首先要導(dǎo)入必要模塊，比如導(dǎo)入numpy進(jìn)行數(shù)值運(yùn)算，導(dǎo)入pyplot進(jìn)行繪圖，導(dǎo)入animation創(chuàng)建動畫。

然后需要定義x的范圍，創(chuàng)建一個從0到1的數(shù)組x，包含400個點。

接著需要定義函數(shù)、創(chuàng)建圖形和坐標(biāo)軸、初始化動畫函數(shù)等等。

ChatGPT給出的答案很好，但每個動畫中只能顯示一個函數(shù)。

為了達(dá)到目的，陶哲軒進(jìn)一步提問道：「如果我想讓每個動畫顯示兩個函數(shù)呢？例如，第一幀顯示$x$和$x^2$，第二幀顯示$x^2$和$x^3$，第三幀顯示$x^3$和$x^4$。」

ChatGPT表示：「要在動畫的每一幀顯示兩個函數(shù)，可以修改代碼，為每一幀繪制兩條線。」

接下來，ChatGPT還是給出了詳細(xì)的代碼。

1. Install matplotlib if you haven't already:

pip install matplotlib

2. Use the following code to create the animation with two functions per frame:

import numpy as np
import matplotlib.pyplot as plt
import matplotlib.animation as animation


# Define the range for x
x = np.linspace(0, 1, 400)


# Define the functions
functions = [lambda x: x, lambda x: x**2, lambda x: x**3, lambda x: x**4]


# Create a figure and axis
fig, ax = plt.subplots()
line1, = ax.plot(x, functions[0](x), label='$x$')
line2, = ax.plot(x, functions[1](x), label='$x^2$')


# Set axis labels and title
ax.set_xlabel('x')
ax.set_ylabel('f(x)')
ax.legend()
ax.set_title('Animated Functions')


# Initialize the animation function
def init():
    line1.set_ydata([np.nan] * len(x))
    line2.set_ydata([np.nan] * len(x))
    return line1, line2


# Update the animation function
def update(frame):
    line1.set_ydata(functions[frame](x))
    line2.set_ydata(functions[frame+1](x))
    ax.legend([f'$x^{frame+1}$', f'$x^{frame+2}$'])
    return line1, line2


# Create the animation
ani = animation.FuncAnimation(
    fig, update, frames=len(functions)-1, init_func=init, blit=True, repeat=True, interval=1000
)


# Save the animation as a gif
ani.save('animated_double_functions.gif', writer='imagemagick')


plt.show()

隨后ChatGPT照例給出了詳細(xì)解釋：為了在「0,1」的區(qū)間上創(chuàng)建（$x$和$x^2$，$x^2$和$x^3$，$x^3$和$x^4$）的函數(shù)，需要定義x的范圍、定義函數(shù)、創(chuàng)建圖形和坐標(biāo)軸、初始化動畫函數(shù)等。

陶哲軒表示：「這樣就差不多可以了，但圖例似乎無法隨動畫更新，它會停留在x^3和 x^4。有沒有辦法在每一幀都更新圖例？」

針對這個問題，ChatGPT給出了對策，就是通過清除現(xiàn)有圖例并創(chuàng)建新的圖例，來更新每一幀的圖例。

隨后，ChatGPT貼心地給出了可以正確更新圖例的修改后的代碼。

import numpy as np
import matplotlib.pyplot as plt
import matplotlib.animation as animation


# Define the range for x
x = np.linspace(0, 1, 400)


# Define the functions
functions = [lambda x: x, lambda x: x**2, lambda x: x**3, lambda x: x**4]


# Create a figure and axis
fig, ax = plt.subplots()
line1, = ax.plot(x, functions[0](x), label='$x$')
line2, = ax.plot(x, functions[1](x), label='$x^2$')


# Set axis labels and title
ax.set_xlabel('x')
ax.set_ylabel('f(x)')
ax.set_title('Animated Functions')


# Initialize the animation function
def init():
    line1.set_ydata([np.nan] * len(x))
    line2.set_ydata([np.nan] * len(x))
    return line1, line2


# Update the animation function
def update(frame):
    line1.set_ydata(functions[frame](x))
    line2.set_ydata(functions[frame+1](x))
    ax.legend([f'$x^{frame+1}$', f'$x^{frame+2}$'])
    return line1, line2


# Create the animation
ani = animation.FuncAnimation(
    fig, update, frames=len(functions)-1, init_func=init, blit=True, repeat=True, interval=1000
)


# Save the animation as a gif
ani.save('animated_double_functions.gif', writer='imagemagick')


plt.show()

ChatGPT解釋道：更新函數(shù)中的ax.legend()調(diào)用，就可以清除現(xiàn)有圖例，并且使用每幀的新標(biāo)簽進(jìn)行更新了。這樣就可以確保，圖例反映的是當(dāng)前顯示函數(shù)的功能。

陶哲軒繼續(xù)提問——

「我想讓Python繪制一個用數(shù)字描述，但用字符串標(biāo)注的函數(shù)圖。例如，我想繪制這樣一幅圖：橫軸上標(biāo)有『今天』、『下周』和『明年』，分別代表x=1、x=2和x=3的位置，縱軸上標(biāo)有『初級』、『中級』和『專家』，分別代表y=1、y=4和y=9的位置（因此縱向標(biāo)簽的間距并不相等），要繪制的圖形是拋物線y=x^2的圖形。如何繪制？」

ChatGPT回答：「要繪制橫軸和縱軸用字符串標(biāo)注但與特定數(shù)值相對應(yīng)的圖表，可以使用matplotlib庫并自定義刻度標(biāo)簽?！?/span>

1. Install matplotlib if you haven't already:

pip install matplotlib

2. Use the following code to create the plot:

import numpy as np
import matplotlib.pyplot as plt


# Define the numerical values for the x and y positions
x_values = [1, 2, 3]
y_values = [1, 4, 9]


# Define the corresponding string labels for x and y axes
x_labels = ["Today", "Next week", "Next year"]
y_labels = ["Beginner", "Intermediate", "Expert"]


# Define the function to be plotted (y = x^2)
x = np.linspace(1, 3, 100)
y = x**2


# Create a figure and axis
fig, ax = plt.subplots()


# Plot the function
ax.plot(x, y, label='$y=x^2$')


# Set the x and y axis labels
ax.set_xlabel('Time')
ax.set_ylabel('Level')


# Set the x and y axis tick positions and labels
ax.set_xticks(x_values)
ax.set_xticklabels(x_labels)
ax.set_yticks(y_values)
ax.set_yticklabels(y_labels)


# Add a legend
ax.legend()


# Set the title
ax.set_title('Parabola $y=x^2$ with Custom Axis Labels')


# Display the plot
plt.show()

并且給出了相應(yīng)解釋。

至此，陶哲軒的問題就被ChatGPT完美解決了。

網(wǎng)友：圖表存在「幻覺」

在陶哲軒的評論區(qū)，有網(wǎng)友指出了此圖的準(zhǔn)確性有問題：兩條線之間的山谷意味著什么？那里的相對位移應(yīng)該更大才對。

在他看來，用手繪涂鴉來表達(dá)這類非正式想法是比較合適的，可以讓形式與內(nèi)容相匹配，避免了使用和標(biāo)準(zhǔn)化這些AI工具過程中的缺點。

對于這名網(wǎng)友的「找茬」，陶哲軒進(jìn)行了詳盡的回復(fù)。

他解釋道，如果自己想要傳達(dá)復(fù)雜關(guān)系的圖像，手繪圖是很不方便的，一方面原因是自己不擅長手繪，另一方面，也是因為無法很輕松地編輯出一個草圖，讓它部分地傳達(dá)自己的想法。

而借助Python，自己就可以輕松地循環(huán)，進(jìn)行十幾次嘗試，然后找到一個能捕捉到自己想要的細(xì)微差別的方法了。

例如，他確實有意讓初級領(lǐng)域和次級領(lǐng)域之間的山谷在AI的幫助下獲得更高的推動力（這個山谷代表著兩個相鄰的領(lǐng)域）。

在陶哲軒看來，純數(shù)學(xué)是自己的主要領(lǐng)域，而計算機(jī)編程是次要技能；自己對于設(shè)置和安裝機(jī)器學(xué)習(xí)軟件包并沒有直接經(jīng)驗，但后者與這兩個專業(yè)相鄰，所以他會把它放在這個圖的中間位置。

而對于圖表不夠精確這個問題，陶哲軒解釋道，數(shù)軸上沒有數(shù)字標(biāo)簽，應(yīng)該就已經(jīng)意味著這是一張非正式圖像。

或者，他建議我們可以創(chuàng)建其他信號，來更加強(qiáng)調(diào)圖形的非正式性，比如讓線條更厚、更模糊，同時選擇不那么「專業(yè)」的字體。

這些在Python中是很容易做到的，但如果要手工完成，就只能重繪圖像了。

同時，針對這位網(wǎng)友的建議，陶哲軒也表示，在使用ChatGPT/Python之前，自己的確也提前手繪了草圖。

隨后，陶哲軒又在圖表上進(jìn)行了一些調(diào)整，添加了一些不建議使用AI輔助的情況：在幾乎沒有先驗知識的情況下嘗試用AI處理中等難度的任務(wù)，或者在只有中等先驗知識的情況下嘗試處理專家難度的任務(wù)。

陶哲軒表示，在這種特殊情況下，此類更新在手繪圖像上是可行的，并且只需要添加新繪圖就可以了，而不是刪除或修改現(xiàn)有繪圖。

但他強(qiáng)調(diào)，對于許多其他類型的修訂，使用手繪圖像作為主圖像來源會很不方便。

「資深用戶」陶哲軒

其實早在2023年3月，陶哲軒就開始探索如何將AI加入到自己的工作流里了。

起初，陶哲軒想讓ChatGPT根據(jù)他的描述直接得到「Kummer定理」這個名字。不過，AI給出的結(jié)果卻是一個Legendre公式。好在，后續(xù)可以根據(jù)這個線索，通過傳統(tǒng)搜索引擎輕松找到答案。

據(jù)此，陶哲軒認(rèn)為，AI在數(shù)學(xué)中的作用是提供一個初步解答，然后可以通過更傳統(tǒng)的方法進(jìn)行細(xì)化。

接下來，陶哲軒從原理上對比了傳統(tǒng)計算機(jī)軟件工具和AI工具，發(fā)現(xiàn)二者的工作流極為不同。

例如，對于傳統(tǒng)的LaTeX到PDF編譯器來說，只要輸入的代碼正確，那么一定可以得到一份完美的PDF。但如果輸入的代碼有格式錯誤，結(jié)果要么是編譯錯誤，要么是一份嚴(yán)重混亂的PDF。

而AI LaTeX編譯器則可以更加優(yōu)雅地處理噪聲或格式錯誤的輸入，但它不能以「一鍵完成」的方式使用，而是需要進(jìn)行大量的互動。

隨后，在大量的嘗試中，陶哲軒又發(fā)現(xiàn)了一些ChatGPT在處理數(shù)學(xué)問題時的小亮點。

比如，一旦AI「學(xué)會」了用戶的需求，用戶就可以用最少的解釋或預(yù)格式化來提供進(jìn)一步的數(shù)據(jù)，而AI依然可以推斷出一個令人滿意的輸出。

例如，在隨后的此類請求中，即使輸入不是MathSciNet格式，AI仍然能夠繼續(xù)我在附加請求中隱含引入的參考命名約定。

總的來說，這些AI工具并不能幫助直接攻克未解的數(shù)學(xué)問題，但它們在各種相關(guān)的任務(wù)中相當(dāng)有用，盡管之后常常需要一些手動調(diào)整。

2023年4月，在經(jīng)過一段時間的使用之后，陶哲軒針對AI和人類（主要是自己）各自的優(yōu)勢進(jìn)行了一波總結(jié)。

1. 對于每天都要做的任務(wù)，陶哲軒已經(jīng)掌握了足夠的技術(shù)來優(yōu)化工作流。在這方面，AI工具的幫助不大。最明顯的就是在研究數(shù)學(xué)，同時也包括他已經(jīng)極為熟練的郵件撰寫。

2. 對于有一些專業(yè)知識但很少實踐的任務(wù)，AI工具是有幫助的。比如創(chuàng)建初稿或者提供靈感，然后陶哲軒自己再去進(jìn)行驗證和完善。這一類的例子包括數(shù)據(jù)處理、翻譯成外語，或以很少使用的格式編寫文本（比如，公開演講、規(guī)則文件等）。

3. 對于幾乎沒有專業(yè)知識且不需要極高質(zhì)量和可靠輸出的任務(wù)，也可以詢問AI工具，并或多或少地聽從它的建議。在這里，AI的功能相當(dāng)于一個操作更簡便的搜索引擎。

4. 對于沒有專業(yè)知識但需要質(zhì)量和可靠性的任務(wù)，就必須咨詢?nèi)祟悓＜伊?。一個例子是修理復(fù)雜、昂貴且精密的設(shè)備。

比如，第二類任務(wù)：

陶哲軒讓GPT用LaTeX輸出流程圖后，得到了下面這張圖片。

可以看到，這張流程圖還比較粗糙，不過對于熟練使用LaTeX的陶哲軒來說，只需簡單修改一下，即可得到下面這個成品。

再比如，第三類任務(wù)：

陶哲軒讓GPT把自己之前的帖子總結(jié)為流程圖，結(jié)果如下。

2023年9月，陶哲軒對ChatGPT的探索，已經(jīng)深入到用它來寫代碼了。

作為實驗，他要求ChatGPT寫一段Python代碼，為每個自然數(shù)n計算1,...,n的最長子序列的長度??(??) ，其中歐拉全能函數(shù)?不遞減。

很快，AI便生成了一段極其巧妙的代碼。雖然還存在一些偏差，但距離最終答案已經(jīng)非常接近了。

隨后，陶哲軒基于這段初始代碼作為起點，手動生成了自己想要的代碼，這大概節(jié)省了他半個小時的工作量。

因為ChatGPT給出的結(jié)果非常好，陶哲軒表示，自己以后還會經(jīng)常使用它，為類似的計算提供初始代碼。

一看陶哲軒對AI的嘗試已經(jīng)來到了代碼領(lǐng)域，坐不住的網(wǎng)友們便給他安利一波AI加持的VSCode。

對此，陶哲軒本人十分「聽勸」，竟然放下了自己已經(jīng)用了近10年的TeXnicCenter+MiKTeX，立刻將工作流升級到了VSCode+TeX Live+LaTeX workshop+GitHub Copilot。

在初次嘗試中，他主要用的是很基礎(chǔ)的代碼片段功能（code snippets feature）——

通過輸入觸發(fā)詞（比如「cor」），并按下Tab鍵來創(chuàng)建整個推論環(huán)境（corollary environment），非常節(jié)省時間。

就在不到一個月之后，陶哲軒表示，他已經(jīng)在用Github Copilot為自己的博客文章撰寫提供助力了。

比如在下面這個例子中，陶哲軒將一個積分分成三部分，并描述了如何估計第一部分，隨后Copilot正確地給出了剩下兩部分的估計方法。

他預(yù)計，在最終的成稿中，大約有十幾句來自Copilot的建議會以某種形式呈現(xiàn)出來。

隨著AI自身的進(jìn)化，以及愈發(fā)熟練的掌握，陶哲軒發(fā)現(xiàn)AI已經(jīng)不再局限于外圍的任務(wù)，而是可以涉足數(shù)學(xué)領(lǐng)域本身了。

比如，在使用Lean進(jìn)行自然數(shù)游戲研究時，他便通過GPT-4的輔助得到了關(guān)于有限多個實變量不等式理論的成果。

并且，隨著關(guān)卡變得越來越難，GPT的作用也越加能夠凸顯出來。

而在這波體驗之后，大神本人也算是徹底「入坑」了。

OK，自然數(shù)游戲已經(jīng)完成，現(xiàn)在我要去安裝Lean并編寫一個「hello world」程序了。

幾天之后，又是一大波心得總結(jié)：

- Github Copilot在完成簡短論證時非常有用，盡管它的較長建議通常是錯誤的。但即使是錯誤的建議也能幫助我學(xué)到正確的語法。

- GPT-4在澄清Lean語法的細(xì)微差別并提供我用數(shù)學(xué)英語解釋的步驟的Lean翻譯建議方面有一定幫助。然而，它似乎更受Lean3語法和最佳實踐的影響，而不是Lean4。

終于，在經(jīng)過差不多100個小時的努力之后，陶哲軒用Lean4完成了Maclaurin型不等式論文的形式化。

大神畢竟是大神，陶哲軒很快又再一次跑通了用AI工具輔助數(shù)學(xué)研究——形式化多項式Freiman-Ruzsa猜想的證明，大獲成功。